Есть несколько версий, самыми вероятными считаются эти:
1) На арабском "аль-джабр" - восполнения. Алгебра наука об восполнении арифметики.
2) Так же есть вероятность, что это слово произошло от труда арабского математика Ал-Хорезми (от самого имени которого согласно большинству исследователей происходит популярное слово "алгоритм"