一張青春洋溢的畢業紀念冊照片，轉眼間卻成了猥褻影像的原材料——這不是電影情節，而是正在日本各地校園蔓延的真實危機。伴隨生成式AI工具日益普及、操作門檻大幅降低，任何人只需上傳一張臉孔，就能在短短幾十秒內產出逼真的假性影像，受害者甚至往往渾然不知。
News On Japan報導指出，日本近期出現大量利用學校畢業紀念冊照片製作AI深偽色情圖像的案例，部分受害者甚至遭到恐嚇，要求付款否則散播相關影像。這些影像多半未經授權，透過專門的AI應用程式，使用者只需上傳臉孔照片，便可輕鬆生成竄改過的露骨影片。
受害規模令人震驚。山陽新聞引述民間監控團體「ひいらぎネット」的調查顯示，在某段期間內，社群媒體上共流出252人份由卒業相簿遭竄改的性化深偽影像與影片，其中含疑為中學生或高中生者多達200人，小學生則有20人，調查人員形容這不過是「冰山一角」。
具體案例包括：學校團體合照被惡意改為女同學裸露畫面，以及畢業紀念冊照片中臉孔以下部位遭AI替換為性化內容。更值得注意的是，許多學校委託專業攝影師，將活動照片上傳至專屬網站供家長購買，而這些私人照片庫似乎也正遭到洩露與濫用。
對受害學生而言，心理創傷難以估量。Imaginepro.ai的報告記錄了一個令人心疼的案例：有學生因假冒性影像連同就讀學校名稱一起在網路上擴散，而不敢再去上學，整天惶恐著「有陌生人可能在校門口等候」。
犯罪者離受害者的距離，往往比想像中更近。OECD AI事件資料庫的紀錄顯示，日本警方在1月至9月間受理了79件涉及AI生成兒少性深偽影像的案件，其中大約有一半的加害者是受害者的同班同學。
科技本身已成為最大推手。Imaginepro.ai指出，伴隨整合生成式AI的應用程式和網站大量湧現，使用者只需上傳圖片，不到一分鐘就能生成精緻的深偽影像，創作門檻的大幅下降，是這類有害行為急速擴張的主要原因。
你可能也想知道：watch、seiseiai.html
法律的腳步，卻遠遠追不上技術。News On Japan引述專精生成式AI法律的律師出田一的說法：目前日本並無法律直接禁止製作深偽影像，現行做法是視製作內容的方式，可能違反著作權法、誹謗罪或公開權等現有法規。
地方政府已率先採取行動。News On Japan報導，鳥取縣率先通過日本首個禁止深偽色情的地方條例，明確禁止利用AI生成涉及該縣18歲以下未成年人的露骨性化內容。不過，全國性的統一立法至今仍付之闕如。
面對不斷累積的輿論壓力，中央政府也終於開始正視問題。The Japan Times報導，日本法務省設立的專家研究小組已在審視，現行侵權法應如何解釋並適用於AI生成的深偽影片、合成聲音及未經同意製作的露骨影像等案件。法務省民事局官員伊賀和行指出，設立這個研究小組，正是回應AI技術持續進步、讓複製他人外貌與聲音愈來愈輕易後案件數量急遽增加的局面。
從東京到布魯塞爾，全球各地的監管機構都在加快腳步。Euronews報導，歐洲議會與歐盟理事會已正式立法禁止「裸化應用程式」，從今年12月起，該禁令將針對開發AI性深偽工具的企業，以及未經當事人同意製作露骨影像的用戶。同一份報告還引述UNICEF橫跨11個國家的調查，指出間至少有120萬名兒童的影像遭竄改成性化深偽內容。
Tech Policy Press則以更嚴峻的口吻描述問題的本質：網路上98%的AI色情影片均為非自願性質，而其中99%的攻擊對象是女性。
本文 AI技術遭惡用！日本畢業紀念冊成新破口，學生照片被竄改為猥褻圖像 授權來自 亞洲新聞網。
