Midjourney 是有條例的
Midjourney 相信大家都聽過 AI 人工智能生成圖片平台，允許用戶根據某些指導方針創建圖像。Midjoruney 服務條款禁止用戶創建「本質上不尊重、侵略或其他虐待」的圖像，並禁止「成人內容或血腥」。條款還包括「禁止用戶使用該服務為政治競選創建圖像」，而系統本來還可以「自動阻止某些文本輸入」，並且 Midjourney 有 68 名工作人員監管該平台導。不過，彭博社表示，似乎 Midjorney 執行不力。條例有盲點
根據彭博社引述一份還未公開的數碼仇恨反擊中心（Center for Countering Digital Hate）報告顯示，儘管 Midjorney 有不同「成生圖像」守則，用戶仍然可以生成具有虐待性並可以助長錯誤信息的圖像。研究人員發現，用戶可以輕易創建與 Pizzagate 相關的圖像，這是一個 2016 年流傳的陰謀論說，錯誤地聲稱前美國總統候選人希拉里和她 2016 年總統選舉競選主席 John Podesta 在華盛頓的一家 Pizza 店內經營兒童販賣集團。研究人員還發現，用戶可以使用 Hack Code 來逃避 Midjourney 的服務條款。他們發現用戶無法生成前美國總統克林頓和 希拉里手上沾滿血跡的圖像，但彭博社報導，卻可以生成這對前美國總統及第一夫人手上沾滿草莓糖漿的圖像。
這份報告揭示了 AI 圖像生成的監管漏洞，以及如何可能利用這些技術助長虛假陰謀論說的問題。隨著技術的發展，這些問題凸顯了在制定有效政策和監管措施方面的迫切需要。
來源：Bloomberg
ePrice.HK 同你齊齊學 AI : 按呢度進入 AI 大時代專頁，每日送上最強 AI 消息及工具測試
輕鬆講科技 Appe Podcast 節目！立即 Follow 我哋 ，有喺網站睇唔到，但聽得到的科技 / AI 消息＋趣聞