一位人工智慧專家警告說，沒有證據表明人工智慧是可以控制的，因此不應該開發。
Roman Yampolskiy博士對該軟體進行了廣泛的審查，以發現它如何重塑社會，並表示它並不總是對我們有利。
Yampolskiy博士說：「我們面臨著一個幾乎可以肯定的事件，有可能引發一場生存災難。」。
難怪許多人認為這是人類有史以來面臨的最重要的問題。結果可能是繁榮或滅亡，而宇宙的命運懸而未決。」
他說，人類生產智慧軟體的能力遠遠超過了我們控制人工智慧的能力，而且任何先進的智慧系統都無法完全控制。
「為什麽這麽多研究人員認為人工智慧控制問題是可以解決的？」他說據我們所知，沒有證據，也沒有證據。在著手構建受控人工智慧之前，重要的是要證明這個問題是可以解決的。
「這一點，再加上統計數據表明，人工智慧超級智慧的發展幾乎是必然的，表明我們應該支持一項重大的人工智慧安全工作。」
Yampolskiy博士提出的一個問題是，隨著人工智慧變得更加智慧，將存在無限多的安全問題。這將使我們無法預測所有這些，現有的護欄可能還不夠。
他還補充道，人工智慧無法總是解釋為什麽它做出了決定——或者人類可能並不總是能夠理解它的推理——這可能會使它更難理解和預防未來的問題。
Yampolskiy博士為他的新書【人工智慧：無法解釋、無法預測、無法控制】進行了評論，他說：「如果我們習慣於在沒有解釋的情況下接受人工智慧的答案，基本上將其視為一個甲骨文系統，我們將無法判斷它是否開始提供錯誤或操縱性的答案。」。
然而，人工智慧最令人擔憂的因素之一是其日益增強的自主性。隨著人工智慧獨立思考能力的增強，人類對它的控制力也會減弱。安全也是如此。
Yampolskiy博士說：「不太聰明的特工——人——無法永久控制更聰明的特工。」這並不是因為我們可能無法在所有可能的設計中找到一個安全的超級智慧設計，而是因為沒有這樣的設計是可能的，它是不存在的。
「超級智慧不是叛逆，它從一開始就無法控制。」
Yampolskiy博士表示，為了最大限度地降低人工智慧的風險，使用者需要接受能力的降低，人工智慧必須用易於理解的人類語言內建「復原」選項。
他說，人類正面臨一個選擇我們是不是變得像嬰兒一樣，被照顧但無法控制，還是我們拒絕有一個樂於助人的監護人，但仍然負責和自由？」
