記者 張崢 邊雪 譚羽清 馬曉玉
如果可以給Chat GPT下命令問詢制造武器的方法，如果人類跟訓(xùn)練了上百萬次的機(jī)器人下國際象棋，如果企業(yè)用人工智能提供的招聘模板，未來的充斥著AI的世界會變成什么樣？如何應(yīng)對AI帶來的潛在風(fēng)險(xiǎn)？
人工智能將怎樣影響人類？
10月26日，2024世界頂尖科學(xué)家論壇分論壇——世界頂尖科學(xué)家智能科學(xué)大會上，全球頂尖科學(xué)家匯聚一堂，討論“為人類永續(xù)發(fā)展制定科學(xué)的AI治理框架”。
在主旨演講中，中國科學(xué)院院士、北京大學(xué)國際機(jī)器學(xué)習(xí)研究中心主任鄂維南，2007圖靈獎(jiǎng)得主、南方科技大學(xué)斯發(fā)基斯可信自主系統(tǒng)研究院院長約瑟夫·斯發(fā)基斯，2024年世界頂尖科學(xué)家協(xié)會獎(jiǎng)“智能科學(xué)或數(shù)學(xué)獎(jiǎng)”獲得者、康奈爾大學(xué)計(jì)算機(jī)科學(xué)和信息科學(xué)講席教授喬恩·克萊因伯格，分別從不同角度分享了他們的研究成果和思考。
AI助力科學(xué)研究：需要學(xué)科間合作
AI+科學(xué)能迸發(fā)出什么樣的火花？鄂維南詳細(xì)介紹了人工智能（AI）在科學(xué)研究中的應(yīng)用。“在人工智能幫助下，我們可以開發(fā)出更多更有效的工具。很早以前，我們就發(fā)起了學(xué)生開源平臺，我們期待更多人獲益?！毙碌腁I將呼吁合作、打破學(xué)科間的壁壘。鄂維南呼吁一種新的研究范式，用更多的有效的數(shù)據(jù)，來“武裝”科學(xué)研究。
鄂維南
他以材料科學(xué)為例，他提到了一個(gè)名為“uni-mol”的AI模型，以當(dāng)前各大智能手機(jī)和電視中廣泛使用的新型顯示技術(shù)有機(jī)發(fā)光二極管(OLED)為例，如果要發(fā)現(xiàn)更出色的發(fā)光材料，傳統(tǒng)材料設(shè)計(jì)，需要依賴專家經(jīng)驗(yàn)和大量實(shí)驗(yàn)驗(yàn)證，試錯(cuò)成本極高。如果使用AI模型來進(jìn)行預(yù)測和篩選，就可以節(jié)約大量的時(shí)間和成本。
過去，做實(shí)驗(yàn)是進(jìn)行科學(xué)研究的必要方式。現(xiàn)在可以有不一樣的期待，“我們可以利用實(shí)驗(yàn)來收集數(shù)據(jù)”然后充分運(yùn)用算法和大模型的幫助。
技術(shù)發(fā)展：要符合人類價(jià)值觀
圖靈獎(jiǎng)得主約瑟夫·斯發(fā)基斯則聚焦于AI倫理問題，深入剖析了AI技術(shù)在實(shí)際應(yīng)用中面臨的挑戰(zhàn)和風(fēng)險(xiǎn)。他指出，隨著AI技術(shù)的快速發(fā)展，其在決策過程中可能存在的安全性和倫理性問題日益凸顯。例如，AI系統(tǒng)在處理復(fù)雜任務(wù)時(shí)，可能無法完全符合人類的價(jià)值觀和道德標(biāo)準(zhǔn)，從而引發(fā)一系列社會倫理問題。
約瑟夫·斯發(fā)基斯
“我們不能忽視AI技術(shù)在實(shí)際應(yīng)用中的潛在風(fēng)險(xiǎn)，特別是在涉及個(gè)人隱私和數(shù)據(jù)安全的領(lǐng)域?！边@位科學(xué)家強(qiáng)調(diào)，“為了確保AI的發(fā)展能夠更好地服務(wù)于人類社會，我們需要建立一個(gè)全球性的監(jiān)管框架，制定明確的倫理準(zhǔn)則。”
他呼吁加強(qiáng)跨學(xué)科研究，推動不同領(lǐng)域的專家學(xué)者共同參與，形成一套全面、系統(tǒng)的AI倫理準(zhǔn)則。他還提倡加強(qiáng)公眾對AI倫理的認(rèn)識和理解，提高社會對AI技術(shù)應(yīng)用的接受度和支持度。
“未來，我們需要在技術(shù)創(chuàng)新的同時(shí)，更加關(guān)注其對經(jīng)濟(jì)和社會的長遠(yuǎn)影響，確保技術(shù)發(fā)展符合人類的共同利益。”這位科學(xué)家最后總結(jié)道。
算法預(yù)測：AI在社會決策中的應(yīng)用與挑戰(zhàn)
2024年世界頂尖科學(xué)家協(xié)會獎(jiǎng)“智能科學(xué)或數(shù)學(xué)獎(jiǎng)”獲得者、康奈爾大學(xué)計(jì)算機(jī)科學(xué)和信息科學(xué)講席教授喬恩·克萊因伯格在論壇上探討了算法預(yù)測在社會決策中的應(yīng)用與挑戰(zhàn)。隨著互聯(lián)網(wǎng)的發(fā)展，算法預(yù)測已經(jīng)成為社會決策的重要工具，廣泛應(yīng)用于招聘、風(fēng)險(xiǎn)評估等領(lǐng)域。
喬恩·克萊因伯格
克萊因伯格展示了一張社交媒體上用戶瀏覽行為的截圖，“算法會關(guān)注到你的觀看行為，預(yù)測這可能是你感興趣的內(nèi)容，然后理所當(dāng)然地給你推送同類型內(nèi)容?！?/p>
為了應(yīng)對這些問題，克萊因伯格建議采用多種算法組合，避免單一算法帶來的風(fēng)險(xiǎn)。他強(qiáng)調(diào)，不同算法之間的互補(bǔ)性可以提高決策的準(zhǔn)確性和公平性?！拔磥淼难芯啃枰嗟仃P(guān)注算法的社會影響，確保技術(shù)發(fā)展能夠更好地服務(wù)于人類社會?！笨巳R因伯格總結(jié)道。
