大きなファイルを比較する場合は、diff の代わりに bdiff コマンドを使います。bdiff の使用方法は、diff コマンドと同じです。
$ bdiff leftfile rightfile
3500 行を超えるファイルでは、diff ではなく bdiff を使ってください。