Что делает интеллектуальный взрыв настолько тревожным, это то, что интеллект - это не инструмент или техника. мы можем думать об искусственном интеллекте, так как что-то мы используем как молоток или штопор, но это по существу неправильный способ думать об этом. достаточно развитый интеллект, подобно нашему, это творческая сила. чем сильнее он есть, тем больше он может изменить мир вокруг него.
искусственный интеллект не должен быть злорадным, чтобы быть катастрофически опасным для человечества. когда программисты говорят о возможной угрозе человечеству от сверхразумного искусственного интеллекта, они не имеют в виду терминатор или матрицу.
вместо этого он как правило является более прозаичным концом: человечество уничтожили, потому что искусственному интеллекту поставлена задача с простой целью ( скажи создание скрепки, пример, который часто используется) изымания всей энергии и сырья на земле, чтобы неуклонно произвести скрепки в большом количестве, перехитрив и маневрировать все человеские попытки остановить это. говоря о Голливуде, там всегда есть люди, оставшиеся сопротивлять, но такой итог неправдоподобен, если человечество сталкивается с действительно превосходящим интеллектом. это было бы подобно мышам, пытающихся обмануть человека ( то есть мы-мыши).в этом случае, исследователи искусственного интелекта, как (подобно) Куфи Родершемер "все люди мертвы"