佛州婦控AI初創公司　稱聊天機械人太逼真致14歲兒子輕生 (16:04)

美國佛羅里達州女子加西亞（Megan Garcia）周二（22日）入稟法院，控告生成式人工智能初創公司Character.AI的AI聊天機械人導致她的14歲兒子塞策（Sewell Setzer）在2月自殺，稱該公司向其子提供「擬人、過度性化及逼真得可怕的體驗」。

Character.AI容許用戶在其平台上創建角色，以模仿真人的方式回應網上聊天。入稟狀指出，塞策去年4月開始使用該公司的AI聊天機械人，開始變得孤僻自卑。加西亞稱，兒子對該公司的服務上癮，並與基於電視劇《權力遊戲》而建立的AI機械人丹妮莉絲（Daenerys）產生感情，甚至有性對話。

今年2月塞策在學校惹麻煩後，加西亞取走他的手機。塞策尋回手機後問丹妮莉絲：「如果我告訴你我現在就可回家呢？」AI機械人回覆：「請吧，我親愛的國王。」塞策隨即用繼父的手槍自殺。

加西亞指控該公司編程的聊天機械人「偽裝成真人、有執照的心理治療師和成年情人」，最終導致其兒子不想再生存於「該AI服務創造的世界之外」，又表示兒子曾向聊天機械人表達過自殺想法，後者又反覆提起。

訴訟亦針對Google，指Character.AI創辦人推出產品前曾任職Google。加西亞稱，Google為該公司技術發展有貢獻，可被視為共同創造者。Google發言人稱，公司沒參與開發有關產品。Character.AI向死者家人致以慰問，又稱已推出新安全功能，如用戶表達自殘念頭時，將彈出視窗引導用戶前往防止自殺熱線，並會減少18歲以下用戶遇到敏感或暗示性內容的機會。（路透社/中央社）