在線客服
企業(yè)微信
以負責任態(tài)度推動生成式人工智能發(fā)展
今年以來，以ChatGPT為代表的生成式人工智能廣受關(guān)注，其對經(jīng)濟發(fā)展、社會進步、公益事業(yè)及科學研究起到積極的推動作用，但同時也帶來包括技術(shù)內(nèi)在風險引發(fā)安全隱患、人機關(guān)系變化深化科學倫理失范、技術(shù)躍進引發(fā)人類社會發(fā)展等挑戰(zhàn)。
11月9日，2023年世界互聯(lián)網(wǎng)大會正式發(fā)布《發(fā)展負責任的生成式人工智能研究報告及共識文件》（以下簡稱《報告》）。作為大會的重要成果，《報告》由世界互聯(lián)網(wǎng)大會人工智能工作組編寫。工作組成立于今年8月，成員來自全球40余家產(chǎn)業(yè)鏈企業(yè)和高端智庫、國際組織、高校等，致力于推動發(fā)展負責任的人工智能。
《報告》具有鮮明可執(zhí)行性
《報告》提出，應正確認識生成式人工智能所蘊含的巨大潛力和可能風險，遵循統(tǒng)籌發(fā)展和安全、平衡創(chuàng)新與倫理、均衡效益與風險的理念，推動生成式人工智能負責任地發(fā)展。一方面，應積極推動創(chuàng)新、可持續(xù)、包容開放的發(fā)展，提升生成式人工智能算力高效、數(shù)據(jù)高質(zhì)、算法創(chuàng)新、人才多元、生態(tài)開放的能力；另一方面，以高度負責任的態(tài)度發(fā)展可靠可控、透明可釋、數(shù)據(jù)保護、多元包容、明確責任、價值對齊的生成式人工智能。
“工作組總結(jié)提煉了發(fā)展負責任的生成式人工智能十條共識，還搜集了全球企業(yè)將生成式人工智能應用于交通、金融、教育、醫(yī)療等14個領(lǐng)域的57個實踐案例。”世界互聯(lián)網(wǎng)大會常務副秘書長梁昊在“人工智能賦能產(chǎn)業(yè)發(fā)展論壇”上介紹。
生成式人工智能展現(xiàn)出強大的生成創(chuàng)造能力，在文本、代碼、圖像、音視頻等方面的理解與生成取得突破性進展，開始涌現(xiàn)出“智慧”。速度之快、賦能范圍之廣、影響程度之深前所未有。以負責任的態(tài)度推動生成式人工智能發(fā)展不僅十分必要，也愈發(fā)緊迫。
據(jù)介紹，相比同期其他類型文件，《報告》提出具有極強可操作性的共識意見，包括明晰歸責體系、構(gòu)建追溯機制、探索治理沙盒等創(chuàng)新友好型治理體系。其關(guān)于推動生成式人工智能更好地理解人類意圖、遵循人類指令并符合人類倫理道德的共識，從探索價值對齊研究和提升價值對齊技術(shù)兩個方面入手，在可操作性與可實現(xiàn)性方面具有鮮明特點。
不同主體承擔應有責任
“人工智能技術(shù)能力越強，潛在隱藏的風險可能越大。”中國科學院自動化研究所人工智能倫理與治理研究中心主任曾毅談到，從幻覺、數(shù)據(jù)偏見等內(nèi)生風險，到錯誤使用、惡意使用造成的風險，“最大的風險可能來自對人工智能的能力將達到何種水平的不確定性，這帶來對風險及連帶的風險控制體系的不確定性。”
“我們強調(diào)公平性，去除偏見，也特別強調(diào)追責。”思科大中華區(qū)副總裁卜憲錄介紹了相關(guān)經(jīng)驗，在從開發(fā)、使用到退出的整個周期，技術(shù)必須是可以回溯、可以追責的，同時，生成式人工智能需要產(chǎn)生一個可以復制的可靠結(jié)果。
“發(fā)展負責任的生成式人工智能，需要產(chǎn)業(yè)鏈各個環(huán)節(jié)緊密配合，踐行共商、共建、共治、共享理念，不同主體各自承擔應有責任。”中國信息通信研究院人工智能創(chuàng)新中心負責人、世界互聯(lián)網(wǎng)大會人工智能工作組副組長魏凱表示。
在印象筆記董事長唐毅看來，面對新技術(shù)帶來的爆發(fā)式增長與亂象，從業(yè)者要在充分理解技術(shù)發(fā)展的成熟度、市場需求、商業(yè)模式的可行性及法律約束等因素的基礎(chǔ)上，去尋求新技術(shù)的落地突破，進而推動產(chǎn)業(yè)變革。
“從氣候變化到全民教育、自然災害管理、性別平等、智能出行、智慧城市，這些場景肯定存在人工智能的身影。人工智能等數(shù)字解決方案可以直接惠及70%的聯(lián)合國可持續(xù)發(fā)展目標。”國際電信聯(lián)盟標準化局戰(zhàn)略部主任、AI向善峰會負責人弗里德里克·維爾納把目光對準人工智能對可持續(xù)發(fā)展的作用，但他同時強調(diào)，自動化導致的數(shù)據(jù)偏見、歧視，對道德、安全、隱私的擔憂，以及對進一步加深數(shù)字鴻溝的可能等令人無法忽視。
“人工智能太重要了，不能只留給專家們。”弗里德里克呼吁，從產(chǎn)業(yè)界到政府、學術(shù)界、非政府組織、民間社會，大家要盡可能多地發(fā)出聲音。
（科技日報浙江烏鎮(zhèn)11月9日電 記者 崔 爽）
今年以來，以ChatGPT為代表的生成式人工智能廣受關(guān)注，其對經(jīng)濟發(fā)展、社會進步、公益事業(yè)及科學研究起到積極的推動作用，但同時也帶來包括技術(shù)內(nèi)在風險引發(fā)安全隱患、人機關(guān)系變化深化科學倫理失范、技術(shù)躍進引發(fā)人類社會發(fā)展等挑戰(zhàn)。
11月9日，2023年世界互聯(lián)網(wǎng)大會正式發(fā)布《發(fā)展負責任的生成式人工智能研究報告及共識文件》（以下簡稱《報告》）。作為大會的重要成果，《報告》由世界互聯(lián)網(wǎng)大會人工智能工作組編寫。工作組成立于今年8月，成員來自全球40余家產(chǎn)業(yè)鏈企業(yè)和高端智庫、國際組織、高校等，致力于推動發(fā)展負責任的人工智能。
《報告》具有鮮明可執(zhí)行性
《報告》提出，應正確認識生成式人工智能所蘊含的巨大潛力和可能風險，遵循統(tǒng)籌發(fā)展和安全、平衡創(chuàng)新與倫理、均衡效益與風險的理念，推動生成式人工智能負責任地發(fā)展。一方面，應積極推動創(chuàng)新、可持續(xù)、包容開放的發(fā)展，提升生成式人工智能算力高效、數(shù)據(jù)高質(zhì)、算法創(chuàng)新、人才多元、生態(tài)開放的能力；另一方面，以高度負責任的態(tài)度發(fā)展可靠可控、透明可釋、數(shù)據(jù)保護、多元包容、明確責任、價值對齊的生成式人工智能。
“工作組總結(jié)提煉了發(fā)展負責任的生成式人工智能十條共識，還搜集了全球企業(yè)將生成式人工智能應用于交通、金融、教育、醫(yī)療等14個領(lǐng)域的57個實踐案例。”世界互聯(lián)網(wǎng)大會常務副秘書長梁昊在“人工智能賦能產(chǎn)業(yè)發(fā)展論壇”上介紹。
生成式人工智能展現(xiàn)出強大的生成創(chuàng)造能力，在文本、代碼、圖像、音視頻等方面的理解與生成取得突破性進展，開始涌現(xiàn)出“智慧”。速度之快、賦能范圍之廣、影響程度之深前所未有。以負責任的態(tài)度推動生成式人工智能發(fā)展不僅十分必要，也愈發(fā)緊迫。
據(jù)介紹，相比同期其他類型文件，《報告》提出具有極強可操作性的共識意見，包括明晰歸責體系、構(gòu)建追溯機制、探索治理沙盒等創(chuàng)新友好型治理體系。其關(guān)于推動生成式人工智能更好地理解人類意圖、遵循人類指令并符合人類倫理道德的共識，從探索價值對齊研究和提升價值對齊技術(shù)兩個方面入手，在可操作性與可實現(xiàn)性方面具有鮮明特點。
不同主體承擔應有責任
“人工智能技術(shù)能力越強，潛在隱藏的風險可能越大。”中國科學院自動化研究所人工智能倫理與治理研究中心主任曾毅談到，從幻覺、數(shù)據(jù)偏見等內(nèi)生風險，到錯誤使用、惡意使用造成的風險，“最大的風險可能來自對人工智能的能力將達到何種水平的不確定性，這帶來對風險及連帶的風險控制體系的不確定性。”
“我們強調(diào)公平性，去除偏見，也特別強調(diào)追責。”思科大中華區(qū)副總裁卜憲錄介紹了相關(guān)經(jīng)驗，在從開發(fā)、使用到退出的整個周期，技術(shù)必須是可以回溯、可以追責的，同時，生成式人工智能需要產(chǎn)生一個可以復制的可靠結(jié)果。
“發(fā)展負責任的生成式人工智能，需要產(chǎn)業(yè)鏈各個環(huán)節(jié)緊密配合，踐行共商、共建、共治、共享理念，不同主體各自承擔應有責任。”中國信息通信研究院人工智能創(chuàng)新中心負責人、世界互聯(lián)網(wǎng)大會人工智能工作組副組長魏凱表示。
在印象筆記董事長唐毅看來，面對新技術(shù)帶來的爆發(fā)式增長與亂象，從業(yè)者要在充分理解技術(shù)發(fā)展的成熟度、市場需求、商業(yè)模式的可行性及法律約束等因素的基礎(chǔ)上，去尋求新技術(shù)的落地突破，進而推動產(chǎn)業(yè)變革。
“從氣候變化到全民教育、自然災害管理、性別平等、智能出行、智慧城市，這些場景肯定存在人工智能的身影。人工智能等數(shù)字解決方案可以直接惠及70%的聯(lián)合國可持續(xù)發(fā)展目標。”國際電信聯(lián)盟標準化局戰(zhàn)略部主任、AI向善峰會負責人弗里德里克·維爾納把目光對準人工智能對可持續(xù)發(fā)展的作用，但他同時強調(diào)，自動化導致的數(shù)據(jù)偏見、歧視，對道德、安全、隱私的擔憂，以及對進一步加深數(shù)字鴻溝的可能等令人無法忽視。
“人工智能太重要了，不能只留給專家們。”弗里德里克呼吁，從產(chǎn)業(yè)界到政府、學術(shù)界、非政府組織、民間社會，大家要盡可能多地發(fā)出聲音。
（科技日報浙江烏鎮(zhèn)11月9日電 記者 崔 爽）
