為了打擊兒童色情濫用材料（csam）的傳播，一個由頂級生成式人工智能開發者組成的聯盟，包括諸如google、meta和openai等，發誓要在新興技術周圍實施防護措施。
這個群體是由兩個非營利組織聯合組成的：兒童科技組織thorn和紐約的all tech is human。thorn原名dna基金會，由演員黛米·摩爾和阿什頓·庫奇於2012年創立。
這個集體承諾是在週二宣布的，同時還有一份新的thorn報告提倡在生成式人工智能開發中採用“設計安全”原則，防止生成式人工智能模型的整個生命周期中創建兒童色情濫用材料（csam）。
thorn開發了專注於保護兒童免受性虐待和剝削的工具和資源。在其2022年的影響報告中，該組織表示發現了超過824,466個含有兒童虐待材料的文件。去年，thorn報告稱僅在美國就報告了超過1.04億個疑似csam的文件。
深偽造兒童色情在網絡上已經成為一個問題，在生成式人工智能模型公開後迅速增加，獨立的不需要雲服務的ai模型在暗網論壇上流通。
thorn表示，生成式人工智能現在比以往任何時候都更容易創建大量內容。一個兒童色情者可能會創建大量的兒童色情濫用材料（csam），包括將原始圖像和視頻改編為新內容。
其他支持這一承諾的公司還包括微軟、anthropic、mistral ai、亞馬遜、stability ai、civit ai和metaphysic，每家公司今天都發表了獨立聲明。
2021年推出的metaphysic在去年備受矚目，因為揭示了幾位好萊塢明星，包括湯姆·漢克斯、奧克塔維亞·斯賓塞和安妮·海瑟薇，正在使用metaphysic pro技術來數位化他們的肖像特徵，以保留對訓練ai模型所需特徵的所有權。
openai拒絕進一步評論此舉，而是提供一份由其兒童安全主管切爾西·卡爾森（chelsea carlson）公開發表的聲明。
「我們非常關心工具的安全和負責任使用，這就是為什麼我們在chatgpt和dall-e中建立了堅固的防護欄和安全措施的原因，」卡爾森在一份聲明中說。「我們承諾與thorn、all tech is human和更廣泛的科技社區合作，遵守安全設計原則，並繼續致力於減少對兒童潛在的危害。」
decrypt 聯繫了聯盟的其他成員，但並未立即得到回應。
「在meta，我們花了十多年的時間努力確保人們在線上安全。在這段時間裡，我們開發了許多工具和功能來幫助預防和打擊潛在的危害，並且隨著捕食者不斷試圖逃避我們的保護措施，我們也在持續適應，」meta在一份準備好的聲明中表示。
「在我們的產品中，我們通過哈希匹配技術、人工智能分類器和人工審查的組合，主動檢測並刪除csae材料，」google信任與安全解決方案副總裁蘇珊·賈斯珀（susan jasper）在一篇文章中寫道。「我們的政策和保護措施旨在檢測各種類型的csae，包括由ai生成的csam。當我們識別出有剝削性的內容時，我們會將其刪除並採取適當的行動，其中可能包括將其報告給ncmec。」
去年十月，英國監管機構互聯網監管基金會警告稱，由ai生成的兒童虐待材料可能會「壓倒性地」蔓延到互聯網上。
由ryan ozawa編輯。
