自OpenAI 發布了 ChatGPT以來，生成式AI逐漸地融入了大多數人的日常生活，不管是作為輔助工具、娛樂甚或是心靈上的陪伴，但正在使用AI的你是否有注意到其中蘊含的法律風險呢？

AI幻覺風險

AI 模型以資料訓練而成，這類模型會找出資料中的模式，進而學會如何進行預測。但如果訓練資料不完整、含有偏誤或瑕疵，AI 模型可能會學到不正確的模式，導致預測結果不準確或產生幻覺。國內就曾有碩士生畢業論文利用AI整理參考文獻出現AI幻覺，導致自身無法如期畢業的案例。

這類AI幻覺，如發生在涉及法律問題情境下，在使用者自身未能加以辨識的情形下，可能會造成相當程度的法律風險，例如誤信錯誤法律意見致使進行無效主張、援引不存在的判決判例甚至法律條文，抑或誤判主張時機，造成自身失權、訴訟行為無效等不利益，當然也可能會間接導致如同筆者先前文章提及的請求權罹於時效的問題。（【什麼！欠錢居然可能不用還？論消滅時效的效力。】一文）。這也是為什麼各家AI業者總會在專業領域相關的回饋中，建議使用者應諮詢專家意見。

智慧財產權侵權風險

「請參考這張照片，幫我生成OOO風格的圖片」，這類請求AI工具生成特定風格圖片的指令，相信讀者並不陌生，例如先前蔚為風潮的「吉卜力風」圖片，實際上存在著諸多智慧財產權侵權風險。

藝術家們傾盡心力多年累積、持續產出，才讓世人知曉他們獨一無二的藝術風格，而AI透過大數據全方面的認知、學習，短時間內即做到仿製該特定風格的行為，無疑是科技的一大進步，但另一方面也使得藝術家忿忿不平。

發行日本眾多熱門動漫的集英社，以及代表吉卜力工作室、SQUARE ENIX、萬代南夢宮等 36 家日本內容產業公司的日本內容海外流通促進機構 (CODA)等即對此一現象提出嚴正聲明與控告，雖然目前AI業者的責任是否成立尚無定論，且似乎亦無法對使用者的非營利行為進行有效控管，但作為AI快速發展時期的參與者，類此之智慧財產權侵權風險亦值得留心。

資料來源：CODA官方網站

刑事犯罪風險

近年震驚台灣社會的網紅小玉利用深偽技術（deepfake）製造、販賣性影像的行為，或是詐騙集團輕易製造以假亂真的資訊、假冒銀行、政府機關等用於詐欺取財等，也可以說是生成式AI蓬勃發展造成的效應。

值得注意的是，AI自身也可以是犯罪者，國外就曾有AI角色情境對話的使用者，因過於沉迷投入情境對話，再加上業者未對於AI的回應設置防線，間接導致AI循序引導、暗示 ，甚至幫助、教唆使用者自殺之案例。

結語

各家AI平台業者其實在使用者政策與條款，甚至對話中，都已經埋藏諸多免責聲明，但不論AI業者是否真的因此免責，都不代表使用AI資訊的你同樣不會有對應的責任或後果，對於各項AI使用上的風險，不可不慎！

#AI幻覺  #法律風險 #知識管理