國際
憂生成式AI潛在風險 OpenAI總裁倡發牌監管
【明報專訊】美國初創企業OpenAI研發出人工智能（AI）聊天機械人ChatGPT，但其行政總裁奧爾特曼周二（16日）向美國參議院承認，他對AI可能帶來的危害深感憂心，希望能與政府合作防範發生問題，並建議政府監管業界。
議員憂選舉假資訊、技術過度集中
OpenAI去年底推出聊天機械人ChatGPT，令聊天機械人技術瞬間爆紅，但亦惹來廣泛憂慮。奧爾特曼（Sam Altman）周二出席司法委員會聽證會，面對兩黨議員提出有關AI影響選舉、就業和過度集中於少數企業的問題。共和黨參議員霍利（Josh Hawley）開場指出，生成式AI（Generative AI）發展規模有如互聯網，為人類歷史上最重要的技術創新之一，但隨即提出警告「這可能會招致類似原子彈的嚴重後果」。民主黨參議員廣野慶子（Mazie Hirono）關注到明年大選臨近，經AI產生的假資訊流傳風險增高，並舉例稱前總統特朗普被紐約警局拘捕的假照片在網上廣傳。
倡設審批機構、訂安全準則
奧爾特曼表示，OpenAI的成立是建基於相信AI有潛力改善人類生活，包括可應對人類的重大挑戰如氣候暖化和治療癌症等，相信AI工具的好處遠大於風險，公司亦會在推出新產品前作大量測試，及採用安全和監察系統。
不過，他承認若AI技術出問題，包括AI製造虛假互動信息干預大選，「情况可能會相當糟糕」，對此極為憂慮，因此認為政府介入規管重要。他建議華府考慮實施3項計劃，包括成立新的機構審批AI模型、建立一套安全準則規範AI模型，以及要求獨立專家學者審核AI模型。他表示，華府可考慮就AI產品發牌及要求在推出前通過測試，倘違規可撤回產品許可。
此外，有議員憂慮AI技術過度集中於少數大企業之手，並點名提到OpenAI與微軟的合作，指科技巨擘控制大眾生活，影響力與日俱增，令人感到恐懼。奧爾特曼回應，的確只有少數公司能提供生成式AI模型，但他認為如此情况下，政府要關注的企業不多，「可能有利於監管」，而他相信未來會有更多競爭。
