從“AI兒科醫(yī)生”參與病情會診,，到“AI數(shù)智員工”輔助提供公共服務(wù),，再到人形機器人進(jìn)廠上班……全球人工智能技術(shù)進(jìn)入爆發(fā)式發(fā)展階段，正以前所未有的速度走入千家萬戶,、改變千行百業(yè),。當(dāng)AI重塑我們熟悉的世界,，隨之而來的機遇與挑戰(zhàn)如何應(yīng)對？應(yīng)用與治理如何平衡推進(jìn),？
正在舉行的博鰲亞洲論壇2025年年會上,，國內(nèi)外技術(shù)前沿領(lǐng)域?qū)＜摇W(xué)者和企業(yè)代表就相關(guān)話題展開熱烈討論,。
適應(yīng)AI“新常態(tài)”
當(dāng)下,，人工智能加速賦能千行百業(yè)，進(jìn)入教育,、醫(yī)療,、政務(wù)、金融等場景,。越來越多人感受到AI帶來的便利,。從無人駕駛、機器人到腦機接口,，大眾對AI應(yīng)用產(chǎn)生更多期待,。
畢馬威中國首席技術(shù)官及創(chuàng)新主管合伙人劉建剛表示，人工智能已經(jīng)不是一個未來概念,，對很多企業(yè)而言,，利用人工智能加速決策、創(chuàng)新產(chǎn)品、優(yōu)化運營,，已不是選擇題,，而是必答題。
數(shù)據(jù)顯示,，2024年我國完成備案并上線提供服務(wù)的生成式人工智能大模型接近200個,，注冊用戶超6億；工業(yè)機器人裝機量占全球過半,。
今年政府工作報告提出,，持續(xù)推進(jìn)“人工智能+”行動。國務(wù)院研究室副主任陳昌盛表示,，今年將開展新技術(shù)新產(chǎn)品新場景大規(guī)模應(yīng)用示范行動,，在確保安全前提下，加快人工智能在低空經(jīng)濟,、教育培訓(xùn),、醫(yī)療健康等多場景應(yīng)用。
中興通訊股份有限公司董事長李自學(xué)表示,，當(dāng)前人工智能通用型應(yīng)用加速普及,，但在行業(yè)領(lǐng)域還存在不好用、不易用,、不會用等問題,。應(yīng)在通用基礎(chǔ)大模型上,，結(jié)合不同行業(yè)應(yīng)用場景需求,，加強專屬領(lǐng)域定制與深度訓(xùn)練，讓大模型成為懂行業(yè)的“能工巧匠”,，促進(jìn)人工智能與產(chǎn)業(yè)真正結(jié)合,。
有觀點認(rèn)為，未來可能出現(xiàn)自然人,、機器人,、數(shù)字人并存交互的社會形態(tài)?！恫梺喼拚搲瘉喼藿?jīng)濟前景及一體化進(jìn)程2025年度報告》指出,，隨著人工智能技術(shù)的廣泛應(yīng)用，部分行業(yè)就業(yè)受到嚴(yán)重影響,。
“替代部分工作崗位是技術(shù)變革中的必然過程,，有些崗位受影響，也會有新崗位出現(xiàn),?！眝ivo高級副總裁、首席技術(shù)官施玉堅說,，每個人都要通過學(xué)習(xí)不斷提升綜合素質(zhì),，適應(yīng)AI帶來的變化,。
多位與會嘉賓表示，除了加強人工智能知識技能教育培訓(xùn),，還應(yīng)考慮制定新的社會保障政策,，加強對受沖擊勞動者群體的兜底保障。
加固“安全護(hù)欄”
在博鰲亞洲論壇多場人工智能相關(guān)活動上,，與會嘉賓普遍認(rèn)為,，隨著AI能力越來越強，AI不可控,、被濫用等風(fēng)險會越來越高,，在推廣應(yīng)用中要加固“安全護(hù)欄”。
社交平臺上,，不少人吐槽AI一本正經(jīng)地胡說八道,。清華大學(xué)公共管理學(xué)院院長朱旭峰表示，這是AI幻覺,，指大模型有時混淆事實和虛構(gòu),，在看似是事實的句子中插入錯誤細(xì)節(jié)。AI胡編亂造可能產(chǎn)生誤導(dǎo),，甚至?xí)l(fā)嚴(yán)重后果,，特別是在醫(yī)療、金融,、法律等對信息真實性和準(zhǔn)確性要求極高的領(lǐng)域,。
“技術(shù)暫時不成熟，我們不能因噎廢食,?！敝煨穹逭f，要加大對技術(shù)的開發(fā)和使用,，推動AI幻覺等問題隨技術(shù)不斷進(jìn)步逐步解決,。
AI應(yīng)用過程中需要使用大量數(shù)據(jù)，數(shù)據(jù)安全與隱私保護(hù)備受公眾關(guān)注,。多位與會嘉賓表示,，現(xiàn)實中，具體應(yīng)用場景下哪些數(shù)據(jù)必須收集,，敏感信息數(shù)據(jù)如何避免泄露等,，需要進(jìn)一步明晰相關(guān)制度規(guī)則。
施玉堅認(rèn)為,，隨著AI技術(shù)的普及,，企業(yè)對數(shù)據(jù)的依賴程度日益加深，如果不采取相應(yīng)的安全措施，就可能造成數(shù)據(jù)泄露的風(fēng)險,?！皵?shù)據(jù)要進(jìn)行脫敏或加密處理，增強傳輸和存儲過程中的安全性,?！?/p>
AI技術(shù)的濫用誤用是顯著風(fēng)險之一。有統(tǒng)計顯示,，2024年全球發(fā)生的AI風(fēng)險事件,，超過30%與利用AI進(jìn)行深度偽造相關(guān)。深度偽造名人形象,、聲音進(jìn)行虛假宣傳甚至詐騙不時見諸報端,。
多位嘉賓表示，AI深度偽造現(xiàn)象層出不窮,，主要在于造假成本低,，追查、執(zhí)法成本大,，應(yīng)針對AI誤用濫用完善相關(guān)法律法規(guī),，加大懲罰力度。
伴隨AI產(chǎn)生的倫理道德爭議也不容忽視,。中國科學(xué)院自動化研究所研究員,、聯(lián)合國人工智能高層顧問機構(gòu)專家曾毅認(rèn)為，倫理安全應(yīng)作為人工智能大模型發(fā)展的“基因”,，如何在追求技術(shù)進(jìn)步的同時堅守道德底線,，是需要共同面對的重要課題。
“人工智能的發(fā)展與安全不是互相掣肘的關(guān)系,?！痹阏f,，最新研究表明,，可以在幾乎不影響人工智能大模型求解能力的同時，通過科學(xué)的方式提升其安全能力,。
讓治理跟上技術(shù)步伐
如何讓治理跟上AI技術(shù)步伐,？與會嘉賓表示，AI治理是一個全球性的復(fù)雜問題,，需要達(dá)成世界共識,，推動各領(lǐng)域相互協(xié)作。目前,，主要經(jīng)濟體都在加速相關(guān)立法進(jìn)程,。
在AI治理中，中國堅持統(tǒng)籌發(fā)展和安全，有關(guān)部門已發(fā)布多項AI治理指導(dǎo)文件,。其中,，前不久發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環(huán)節(jié)的全流程安全管理,。
在芬蘭前總理埃斯科·阿霍看來,，政策制定者、企業(yè)家,、科學(xué)家等利益相關(guān)方應(yīng)聚在一起,，建立共識，通過制定標(biāo)準(zhǔn)來應(yīng)對AI帶來的治理挑戰(zhàn),。
“AI醫(yī)生”看病出了問題算誰的責(zé)任,？當(dāng)人工智能系統(tǒng)產(chǎn)生不良后果，如何確定責(zé)任歸屬也需進(jìn)一步厘清,?！岸辔患钨e都提到一個觀點，不要讓人工智能完全代替人的決策,，這是人工智能應(yīng)用時必須注意的問題,。”曾毅說,。
高質(zhì)量數(shù)據(jù)是AI應(yīng)用大規(guī)模落地的重要支撐,，構(gòu)建一個完善而成熟的數(shù)據(jù)市場也十分重要。以色列民主研究所高級研究員特希拉·施瓦茨·阿爾特舒勒認(rèn)為,，應(yīng)根據(jù)實際情況,，建立符合自身需要的數(shù)據(jù)監(jiān)管方案與路徑。
與會嘉賓表示,，AI時代到來,，要堅持應(yīng)用與治理平衡、創(chuàng)新與監(jiān)管并重,、全球化與本土化協(xié)同,，防止數(shù)字鴻溝變成智能鴻溝，讓AI真正成為推動社會進(jìn)步的普惠力量,。
