2024年10月16日，美國核管會（NRC）發(fā)布報告稱，該機構(gòu)已與美國非營利性機構(gòu)——西南研究所（Southwest Research Institute）簽署合同，委托后者進行一項分析，了解持證單位在利用人工智能（AI）運營核電廠時，其規(guī)章制度中存在哪些漏洞。報告指出，NRC應設計一個“故障安全”協(xié)議，以便在AI出現(xiàn)異常時將核電廠的控制權(quán)交還給人類。

報告強調(diào)，AI系統(tǒng)極有可能產(chǎn)生異常輸出，因此有必要建立一個故障安全系統(tǒng)。報告還探討了在檢測到錯誤時切斷AI對電廠系統(tǒng)的訪問，并將控制權(quán)交還給人類操作員的可能性。分析發(fā)現(xiàn)，NRC的多數(shù)操作規(guī)程都可以包含一名人類操作員或AI操作員，但仍有一系列需要解決的問題。

報告指出，法規(guī)要求電廠部分自動設備需具備手動控制功能，是否應在安全系統(tǒng)和控制系統(tǒng)中使用的AI系統(tǒng)中提出類似的要求？同時，位于設施內(nèi)的自主控制系統(tǒng)，以及其他位置的通信控制系統(tǒng)等，應要求具備何種防護措施？

現(xiàn)實中，AI經(jīng)常會提供錯誤或誤導性信息，有時甚至是完全捏造的信息，這種現(xiàn)象或是由于訓練AI應用時的數(shù)據(jù)限制或及其學習模型中的偏差等因素造成的。

報告稱，核電廠持證單位部分行為或超出NRC規(guī)定的界限，包括允許AI接管明確規(guī)定屬于人類職責的功能。分析發(fā)現(xiàn)，與AI技術(shù)發(fā)生監(jiān)管沖突的主要可能性在于那些明確或隱晦地規(guī)定了人類行動的法規(guī)，而這些行動可以由AI系統(tǒng)代替執(zhí)行。

報告補充稱，NRC現(xiàn)行的法規(guī)也有可能出現(xiàn)漏洞。法規(guī)規(guī)定了由人類實施的行動，但這些行動也可以通過AI軟件來完成。

報告稱，NRC法規(guī)中另一類常見的漏洞涉及在特殊計算中使用AI，這主要是由于在如何評估計算方面沒有專門針對AI的指南。通常，法規(guī)并不會說明執(zhí)行計劃必須由人類或AI執(zhí)行，只有少數(shù)例外。例如，在評估應急堆芯冷卻系統(tǒng)和斷裂韌性等非常嚴重的工況時，只能由人類進行相關(guān)操作。

需要新的NRC指南

報告建議NRC制定新的指導文件，說明需要進行哪些類型的測試和記錄，以增強對使用AI技術(shù)進行計算和預測的信心。此外，報告還建議NRC部署一個試點項目，專門用于評估現(xiàn)有核電廠持證單位使用AI技術(shù)進行的計算。