微軟近期向美國弗吉尼亞東區(qū)聯(lián)邦地區(qū)法院提起了一項(xiàng)法律訴訟，指控一組織故意開發(fā)并使用非法工具，繞過其云AI產(chǎn)品的安全防線，非法訪問并制造有害內(nèi)容。該訴訟涉及十名匿名被告，他們的行為引發(fā)了微軟的高度關(guān)注。
據(jù)訴訟文件顯示，被告被指控通過盜取的客戶憑證和定制軟件，非法侵入了Azure OpenAI服務(wù)。Azure OpenAI是微軟基于OpenAI技術(shù)開發(fā)的全托管服務(wù)，提供包括ChatGPT在內(nèi)的多種AI模型。微軟指出，被告的行為違反了《計(jì)算機(jī)欺詐和濫用法》《數(shù)字千年版權(quán)法》以及聯(lián)邦反敲詐勒索法，他們利用自己的軟件和服務(wù)器，生成了具有攻擊性、有害且非法的內(nèi)容，盡管具體內(nèi)容微軟并未詳細(xì)透露。
微軟在調(diào)查中發(fā)現(xiàn)，部分Azure OpenAI服務(wù)的客戶憑證，特別是API密鑰，被用于生成違反服務(wù)使用政策的內(nèi)容。經(jīng)過深入調(diào)查，微軟確認(rèn)這些API密鑰是從付費(fèi)客戶處被非法竊取的。被告通過系統(tǒng)性的API密鑰盜竊行為，從多個(gè)客戶處獲取了密鑰，并利用這些密鑰進(jìn)行了非法活動。
更令人震驚的是，被告利用竊取的API密鑰，創(chuàng)建了一種“黑客即服務(wù)”的模式，并開發(fā)了一款名為“de3u”的客戶端工具。這款工具允許用戶無需編寫代碼，即可通過DALL-E模型生成圖像，并試圖繞過Azure OpenAI服務(wù)的內(nèi)容過濾機(jī)制。當(dāng)用戶輸入的文本提示包含觸發(fā)內(nèi)容過濾的詞匯時(shí)，de3u會阻止服務(wù)修改提示內(nèi)容，從而生成可能有害的圖像。
微軟還指出，被告通過非法編程訪問Azure OpenAI服務(wù)，對微軟的內(nèi)容和濫用防護(hù)措施進(jìn)行了逆向工程，給服務(wù)造成了重大損失。目前，托管在GitHub（微軟旗下公司）上的de3u項(xiàng)目代碼庫已經(jīng)無法訪問。
在微軟發(fā)布的一篇博客文章中提到，法院已授權(quán)微軟查封一個(gè)對被告運(yùn)營至關(guān)重要的網(wǎng)站，以便收集證據(jù)、分析其盈利模式，并破壞其技術(shù)基礎(chǔ)設(shè)施。微軟還表示，已針對觀察到的非法活動采取了相應(yīng)的反制措施，并在Azure OpenAI服務(wù)中增加了額外的安全防護(hù)機(jī)制，以確保服務(wù)的正常運(yùn)行和用戶的數(shù)據(jù)安全。
