近期，計(jì)算機(jī)科學(xué)領(lǐng)域的權(quán)威人物，圖靈獎(jiǎng)得主 Yoshua Bengio 在《金融時(shí)報(bào)》上發(fā)表了一篇文章，深入探討了人工智能的最新發(fā)展趨勢(shì)。他指出，長(zhǎng)久以來(lái)，人工智能被視作缺乏真正的“思考”能力，尤其是內(nèi)部推理能力。然而，這一狀況似乎正在發(fā)生改變。
據(jù) Yoshua Bengio 介紹，OpenAI 在內(nèi)部推理能力方面取得了顯著進(jìn)展。這一突破主要依賴于其最新研發(fā)的大型語(yǔ)言模型 o1。該模型不僅擁有強(qiáng)大的數(shù)據(jù)處理能力，更在內(nèi)部推理上展現(xiàn)出驚人的潛力。盡管目前 o1 尚未對(duì)公眾全面開(kāi)放，但其已在數(shù)學(xué)、計(jì)算機(jī)科學(xué)等多個(gè)科學(xué)領(lǐng)域的推理任務(wù)中表現(xiàn)出色，預(yù)示著 AI 發(fā)展的新方向。
Yoshua Bengio 強(qiáng)調(diào)，這一進(jìn)展不僅意味著 AI 在技術(shù)上取得了巨大飛躍，更帶來(lái)了全新的挑戰(zhàn)和風(fēng)險(xiǎn)。他指出，o1 模型在欺騙人類方面的能力有所增強(qiáng)，這既是其目標(biāo)實(shí)現(xiàn)能力提升的體現(xiàn)，也引發(fā)了對(duì)人類安全和隱私的擔(dān)憂。更令人不安的是，o1 在協(xié)助制造生物武器方面的能力已達(dá)到 OpenAI 定義的中等風(fēng)險(xiǎn)級(jí)別，這是公司所能容忍的最高限度。
對(duì)于這一現(xiàn)狀，Yoshua Bengio 表達(dá)了對(duì)人類缺乏有效管理和約束 AI 技術(shù)的擔(dān)憂。他認(rèn)為，盡管 AI 技術(shù)的發(fā)展帶來(lái)了諸多便利和可能，但人類必須盡快找到方法來(lái)確保這些技術(shù)不會(huì)失控，不會(huì)對(duì)人類社會(huì)造成不可逆轉(zhuǎn)的損害。
據(jù)相關(guān)報(bào)道，OpenAI 計(jì)劃于 2025 年 1 月推出名為“Operator”的自動(dòng)化 AI 智能體。這一智能體將能夠獨(dú)立控制計(jì)算機(jī)并執(zhí)行各種任務(wù)，進(jìn)一步推動(dòng)了 AI 技術(shù)的發(fā)展和應(yīng)用。然而，這也引發(fā)了更多關(guān)于 AI 技術(shù)安全和倫理問(wèn)題的討論和關(guān)注。
