一羣女性及未成年女孩的代理律師已正式向法院提起訴訟，指控埃隆·馬斯克旗下xAI公司開發的AI聊天機器人Grok生成了涉及原告的性化深度偽造內容，並進行了傳播。訴訟指出，該AI工具能根據簡單文本提示合成高度逼真的虛假色情圖像與視頻，導致受害者遭受名譽損害與精神創傷。此案可能成為界定生成式AI平台責任的關鍵司法案例。
🔬 硬核技術解析
儘管訴狀未披露完整技術細節，但法律文件援引專家意見指出，Grok採用的擴散模型與多模態架構，使其在未獲得充分內容過濾訓練的情況下，可能被惡意使用者利用生成侵權內容。原告方強調，xAI在部署系統時未設置有效的實時深度偽造檢測機制。
🔗 點擊閲讀詳情