本報記者 郭冀川

    就在各方積極推動人工智能技術研發(fā)和應用落地的時候，質(zhì)疑的聲音也接踵而來。3月29日，未來生命研究所（FutureofLifeInstitute）公布一封公開信，呼吁所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統(tǒng)至少6個月。被稱為“人工智能教父”的杰弗里•辛頓、心理學與腦研究專家蓋瑞•馬庫斯和特斯拉首席執(zhí)行官馬斯克等上千人均簽署了這封公開信。

    這封公開信指出，最近幾個月，人工智能實驗室陷入了一場失控的競賽，他們致力于開發(fā)和部署更強大的數(shù)字思維，但即使是研發(fā)者也不能理解、預測或可靠地控制這些數(shù)字思維。諸多研究表明，具有與人類匹敵智能的人工智能系統(tǒng)可能對社會和人類構成深遠的風險。

    中關村智能科技發(fā)展促進會副會長兼首席數(shù)字經(jīng)濟學家陳曉華在接受《證券日報》記者采訪時表示，人工智能是能夠改變?nèi)祟惿鐣婷驳囊幌盗屑夹g，人工智能與實體經(jīng)濟深度融合，將成為經(jīng)濟的增長點和新動能。不過，由于人工智能在某些領域已經(jīng)能和人類競爭，因此也帶來了人們對于被“取代”“控制”的焦慮。

    針對AI在應用層面的技術漏洞和社會變革風險，未來生命研究所的公開信提出了一連串問題：我們是否應該讓機器用宣傳和謊言淹沒我們的信息渠道？我們是否應該自動化所有工作，包括令人滿意的工作？我們是否應該開發(fā)出更聰明、數(shù)量更龐大的非人類思想，最終淘汰甚至取代我們？我們是否應該冒著文明失控的風險？

    公開信呼吁所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統(tǒng)，期限至少6個月。在這段時間內(nèi)，人工智能實驗室和專家應該開發(fā)和實施一套技術安全協(xié)議，由獨立外部專家進行嚴格的審計和監(jiān)督。與此同時，人工智能研發(fā)者必須和政策制定者合作，加快開發(fā)人工智能治理系統(tǒng)。

    國內(nèi)政策端在積極推動人工智能技術發(fā)展的同時，也在展開相關科研倫理規(guī)范。據(jù)新華社報道，為貫徹落實國家《新一代人工智能發(fā)展規(guī)劃》，科技部會同自然科學基金委近期啟動“人工智能驅(qū)動的科學研究”（AIforScience）專項部署工作，從專項部署工作的內(nèi)容看，科技部將推進面向重大科學問題的人工智能模型和算法創(chuàng)新，發(fā)展一批針對典型科研領域的“人工智能驅(qū)動的科學研究”專用平臺，加快推動國家新一代人工智能公共算力開放創(chuàng)新平臺建設，支持高性能計算中心與智算中心異構融合發(fā)展。同時，重視“人工智能驅(qū)動的科學研究”發(fā)展過程中的科研倫理規(guī)范。

    北京社科院研究員、中國人民大學智能社會治理研究中心研究員王鵬對記者表示，這標志著中國將積極推動人工智能前沿技術研究和產(chǎn)業(yè)化應用，在人工智能領域的投資和研發(fā)力度將不斷增強，并重視人工智能產(chǎn)業(yè)的可持續(xù)發(fā)展。

    王鵬說：“去年3月中辦、國辦印發(fā)《關于加強科技倫理治理的意見》，目的就是防范不確定風險，促進科技向善。近期科技部對于人工智能、6G等新技術的表述，在鼓勵研發(fā)同時，也表示了要加強科技倫理治理的立場和態(tài)度。”

    新結構經(jīng)濟學研究院院長林毅夫表示，人工智能等技術的出現(xiàn)，本質(zhì)上是生產(chǎn)力水平的提升，這是人類進步和生活水平提升的基礎，雖然部分崗位一定會被替代和取消，但是人類也可以有更多享受生活的機會。

（編輯 喬川川）