“暗黑版”AI現(xiàn)身引憂慮 我們需要怎樣的人工智能？

　　因此有一種看法很主流——人類訓(xùn)練有意識、有自我覺知的人工智能是不明智的。開個腦洞，機器一旦發(fā)展出自我意識，要反向攻擊人類，場面或許失控。

　　前段時間，據(jù)路透社報道，韓國科學(xué)技術(shù)院的人工智能研發(fā)中心正在研發(fā)適用于作戰(zhàn)指揮、目標追蹤和無人水下交通等領(lǐng)域的人工智能技術(shù)，希望在今年年底前研發(fā)出基于人工智能的導(dǎo)彈、潛艇和四軸飛行器。此事引發(fā)學(xué)術(shù)界的巨大震動，抗議紛至沓來，并最終以院長保證無意于“殺手機器人”的研發(fā)并重申人類尊嚴和倫理收場。在美國，以“不作惡”為綱的谷歌也因與國防部的合作協(xié)議涉及“Maven項目”被推上風(fēng)口浪尖，反對者普遍認為，識別結(jié)果完全有可能被用于軍事用途，比如說精準打擊。谷歌最終表示終結(jié)協(xié)議。

　　相較于輿論環(huán)境的憂心忡忡，研究者對“技術(shù)向善”普遍樂觀。他們認為把AI和“殺人機器”聯(lián)系在一起，近乎“捧殺”，夸大AI能力之余，也引發(fā)不明真相的公眾恐慌，無益于人工智能的發(fā)展環(huán)境。

　　“很多人提到AI總是一驚一乍，把AI說成超人。我相信人工智能是能解決問題的，但大家的期待也要在合理范圍內(nèi)。人和機器各有優(yōu)勢，技術(shù)會服務(wù)于特定場景，但也不需要把AI捧上天。”接受科技日報記者采訪時，思必馳北京研發(fā)院院長初敏博士忍不住“抱怨”了一下。看來“我們需要怎樣的AI”這一題，大家都還沒有答案。

責(zé)任編輯：wuyong