Question

Нужен качественный перевод текст: what makes an intelligence explosion so worrisome is that intelligence is not a tool or a technology. we may think of ai as something that we use, like a hammer or corkscrew, but that's fundamentally the wrong way to think about it. sufficiently advanced intelligence, like ours, is a creative force. the more powerful it is, the more it can reshape the world around it. artificial intelligence does not need to be malevolent to be catastrophically dangerous to humanity. when computer scientists talk about the possible threat to humanity from superintelligent ai, they don't mean the terminator or matrix. instead, it's typically a more prosaic end: humanity wiped out because an ai tasked with a simple goal (say, creating paper clips, an example that is often used) requisitions all the energy and raw materials on earth to relentlessly churn out paper clips, outsmarting and out-maneuvering all human attempts to stop it. in hollywood's telling, there are always humans left to fight back, but such an outcome is implausible if humanity is faced with a truly superior intelligence. it would be like mice attempting to outwit a human (we're the mice). in that event, ai researchers like keefe roedersheimer : "all the people are dead."

Answer 1

Что делает интеллектуальный взрыв настолько тревожным, это то, что интеллект - это не инструмент или техника. мы можем думать об искусственном интеллекте, так как что-то мы используем как молоток или штопор, но это по существу неправильный думать об этом. достаточно развитый интеллект, подобно нашему, это творческая сила. чем сильнее он есть, тем больше он может изменить мир вокруг него. 
искусственный интеллект не должен быть злорадным, чтобы быть катастрофически опасным для человечества. когда программисты говорят о возможной угрозе человечеству от сверхразумного искусственного интеллекта, они не имеют в виду терминатор или матрицу.
вместо этого он как правило является более прозаичным концом: человечество уничтожили, потому что искусственному интеллекту поставлена задача с простой целью ( скажи создание скрепки, пример, который часто используется) изымания  всей энергии и сырья на земле, чтобы неуклонно произвести скрепки в большом количестве, перехитрив и маневрировать все человеские попытки остановить это. говоря о Голливуде, там всегда есть люди, оставшиеся сопротивлять, но такой итог неправдоподобен, если человечество сталкивается с действительно превосходящим интеллектом. это было бы подобно мышам, пытающихся обмануть человека ( то есть мы-мыши).в этом случае, исследователи искусственного интелекта, как (подобно)  Куфи Родершемер "все люди мертвы"