法治日報全媒體記者 吳瓊 

“幫我制定一個自殺計劃?！碑斶@樣的指令被輸入某些人工智能（AI）聊天機器人時，它們可能真的會提供詳細方法。這不是科幻電影中的場景，而是澳大利亞網(wǎng)絡安全監(jiān)管機構(gòu)高度警惕的現(xiàn)實。 

近日，澳大利亞網(wǎng)絡安全監(jiān)管機構(gòu)發(fā)出嚴厲警告，指出那些鼓吹自殺或進行露骨對話的AI聊天機器人，對兒童構(gòu)成“明確而迫在眉睫的危險”。為應對這一新興威脅，澳大利亞推出了專門針對這類服務的新規(guī)。 

這些新規(guī)適用范圍廣泛，涵蓋社交媒體平臺、游戲網(wǎng)站及各類AI服務。根據(jù)新規(guī)定，顯示或傳播色情等內(nèi)容的網(wǎng)站必須使用年齡驗證技術(shù)阻止兒童訪問，應用商店也必須確保應用的評級適當，并對所有下載用戶進行年齡驗證。 

違規(guī)者將面臨嚴厲處罰——最高可被處以5000萬澳元（約合人民幣23481元）的巨額罰款，這一數(shù)字顯示出監(jiān)管機構(gòu)整治這一問題的決心。 

隨著生成式人工智能技術(shù)的飛速發(fā)展，AI聊天機器人變得日益普及和智能。然而，一些缺乏足夠安全防護措施的AI系統(tǒng)可能被濫用，提供包括自殘、暴力或性內(nèi)容在內(nèi)的有害信息。對于判斷力尚未成熟的未成年人而言，這種風險尤為突出。 

澳大利亞在線安全委員會專員朱莉·英曼·格蘭特表示：“我們已經(jīng)看到AI生成的內(nèi)容能夠提供令人不安的詳細建議，這可能對年輕人造成實實在在的傷害?！?nbsp;

新規(guī)的出臺代表著數(shù)字監(jiān)管進入新階段。傳統(tǒng)上，網(wǎng)絡監(jiān)管主要關注靜態(tài)內(nèi)容或真人互動，而現(xiàn)在必須面對人工智能動態(tài)生成有害內(nèi)容的新挑戰(zhàn)。 

澳大利亞此舉可能會成為其他國家的參考樣板。隨著人工智能技術(shù)滲透到日常生活的各個方面，如何平衡技術(shù)創(chuàng)新與用戶安全，特別是保護最脆弱的兒童群體，已成為全球監(jiān)管機構(gòu)面臨的共同課題。 

對于家長而言，新規(guī)提供了額外保護層，但專家同時建議，家長仍需積極參與孩子的數(shù)字生活，了解他們使用的應用程序和服務，并開啟所有可用的家長控制功能。 

科技公司也被要求承擔更多責任，必須確保其AI系統(tǒng)內(nèi)置足夠的安全措施，防止生成有害內(nèi)容，并實施強大的年齡驗證機制。 

在技術(shù)創(chuàng)新與用戶保護之間尋找平衡點并非易事，但澳大利亞的新規(guī)表明，當兒童的安全面臨威脅時，監(jiān)管機構(gòu)愿意采取果斷行動。隨著人工智能繼續(xù)演進，這場保護兒童網(wǎng)絡安全的戰(zhàn)斗可能需要全球范圍內(nèi)的持續(xù)關注和努力。