“2024 ESG 全球領(lǐng)導(dǎo)者大會”于 10 月 16 日-18 日在上海舉行。新浪財(cái)經(jīng)歐洲站站長郝倩與知名歷史學(xué)家、哲學(xué)家、《人類簡史》、《智人之上》作者尤瓦爾・赫拉利展開對話。

　　尤瓦爾認(rèn)為，人工智能(AI)的崛起是人類所面臨的一大挑戰(zhàn)。但不可否認(rèn)的是，人工智能能夠造福人類的觀點(diǎn)同樣存在。在被問題及，在可持續(xù)發(fā)展的社會中，人工智能應(yīng)該扮演什么角色時(shí)，尤瓦爾表示，如果能夠防止人工智能失控，確保它能符合人類的價(jià)值觀，那么人工智能可能會成為人類歷史上最好的發(fā)明。

　　“因?yàn)榈侥菚r(shí)，它的巨大力量將服務(wù)于人類社會，而不是危害人類社會”，尤瓦爾舉例說，諸如醫(yī)療保健等領(lǐng)域，目前沒有足夠數(shù)量的醫(yī)生為病人服務(wù)，而人工智能醫(yī)生可以在這方面提供巨大幫助。

　　此外，尤瓦爾還舉例稱，每年有 100 多萬人死于車禍，其中大多數(shù)事故都是人為失誤造成的，比如酒后駕車或疲勞駕駛。如果人工智能控制自動駕駛，每年就能拯救 100 萬人，盡管人工智能也可能會導(dǎo)致事故，但總數(shù)會少得多。

　　同樣，在氣候變化方面，人工智能可以幫助人類找到新的能源，找到更好的、可持續(xù)的、管理經(jīng)濟(jì)的方法。

　　“但最大的問題是，如何在享受這些好處的同時(shí)防止技術(shù)帶來的巨大危險(xiǎn)”，尤瓦爾再次強(qiáng)調(diào)。

　　談及人工智能的監(jiān)管問題，尤瓦爾強(qiáng)調(diào)，“監(jiān)管非常重要，而且許多國家的政府對此很感興趣”。

　　他說，由于是新生事物，政府機(jī)構(gòu)目前并不確定應(yīng)該如何監(jiān)管人工智能，但有些規(guī)定應(yīng)該是顯而易見的，比如應(yīng)該禁止人工智能假冒人類。“我們歡迎人工智能以醫(yī)生或教師的身份在社交媒體上與我們互動，但它絕不能假裝自己是人類。你在交談時(shí)，需要知道交談的對象是人類還是人工智能”，他解釋說，“在社交媒體上，某個推送獲得了大量關(guān)注，有很多用戶點(diǎn)擊。你可能會想，大家都對這個感興趣，我也想了解一下人們正在談?wù)撌裁�。于是你也開始點(diǎn)擊它。實(shí)際上，最初推送這則內(nèi)容的并不是人類用戶，而是機(jī)器人”。

　　“所以你需要知道，這不是人類，而是機(jī)器人，然后再做決定”，他強(qiáng)調(diào)，禁止人工智能假冒人類是一項(xiàng)重要規(guī)定。“就像各國政府禁止偽造貨幣，以維護(hù)人們對貨幣的信任一樣，我們需要禁止偽造人類，以維護(hù)人們對人類的信任”。

　　此外，同樣重要的是，人工智能公司要對其算法的行為負(fù)責(zé)。“要知道，如果一家公司生產(chǎn)的汽車在工程設(shè)計(jì)上存在缺陷，導(dǎo)致發(fā)生事故，造成了人員傷亡，那么對我們來說，這顯然是公司的責(zé)任，可能管理者得去坐牢，也可能必須支付一大筆罰款，因?yàn)樗麄兪怯胸?zé)任的。如果你生產(chǎn)了一種藥品，而這種藥品有副作用，導(dǎo)致人們患病，那么你的公司顯然要承擔(dān)責(zé)任”，尤瓦爾說，人工智能算法也應(yīng)如此。如果一家公司研發(fā)了一種功能強(qiáng)大的算法，而它對社會、人類心理或其他方面產(chǎn)生了危險(xiǎn)的副作用，那么這家公司就必須承擔(dān)責(zé)任，必須對它造成的損害負(fù)責(zé)。

　　尤瓦爾提醒，人工智能是在不斷學(xué)習(xí)和變化的，今天的人工智能還只是處于初級階段，我們無法預(yù)測未來人工智能可能帶來的所有問題和威脅。因此，我們需要的不僅僅是監(jiān)管，還需要一個可以信賴的機(jī)構(gòu)，它應(yīng)該了解人工智能的發(fā)展，并能對其做出快速反應(yīng)。

　　“你可以把規(guī)章制度看作是我們的牙齒，但在有牙齒之前，你需要先用眼睛看見你要咬的東西”，尤瓦爾說，但目前，有關(guān)人工智能的大部分知識只掌握在少數(shù)國家的少數(shù)公司手中，而世界上大多數(shù)人、甚至大多數(shù)政府都不太了解發(fā)生了什么。

　　尤瓦爾指出，應(yīng)該像觀測外太空的天文臺那樣，建立起一座全球人工智能發(fā)展的觀測站。它能夠告訴我們實(shí)際發(fā)生了什么，尖端技術(shù)是什么，存在什么危險(xiǎn)，有哪些機(jī)遇。

　　尤瓦爾說，人工智能領(lǐng)域達(dá)成某項(xiàng)全球性協(xié)議是很困難的，因?yàn)槟悴恢�道對方是否履行了職�?zé)。但如果建立起了這座全球人工智能觀測站，不必進(jìn)行監(jiān)管，只是觀察正在發(fā)生的事情并告知人們，每個政府都可以承諾提供一定的資金來資助這個機(jī)構(gòu)。它需要大量資金聘用最優(yōu)秀的人才，引進(jìn)最先進(jìn)的技術(shù)，需要龐大的預(yù)算，而每個政府都可以承諾提供一定的資金，并很容易核實(shí)其他政府是否履行了承諾。

　　最后，在被問及什么是可持續(xù)發(fā)展社會的關(guān)鍵要素時(shí)，尤瓦爾回應(yīng)稱，關(guān)鍵是要更好地了解人類。在其看來，社會發(fā)展最終的目標(biāo)不是生產(chǎn)人工智能，也不是生產(chǎn)其他東西，而是為了讓人類過上美好、幸福的生活。

　　“你真正需要了解的是，什么是人們生活中痛苦的根源，以及什么是人類的幸福之源”，他說，將如此多的資金、精力和時(shí)間用于發(fā)展技術(shù)和人工智能固然重要，但我們也不應(yīng)忽視對人類的了解和發(fā)展。

　　“如果我們在開發(fā)人工智能方面每投入一美元或一分鐘，都能在了解和發(fā)展人類和人類思維方面也投入一美元和一分鐘，我想一切都會好起來”，他說。