澳大利亞現(xiàn)場(chǎng)活動(dòng)聚焦新的人工智能管理系統(tǒng)標(biāo)準(zhǔn)

AS ISO/IEC 42001:2023開創(chuàng)了負(fù)責(zé)任地使用人工智能（AI）的先例，為組織建立、實(shí)施、維護(hù)和持續(xù)改進(jìn)其人工智能管理系統(tǒng)提供了指南。

澳大利亞標(biāo)準(zhǔn)協(xié)會(huì)最近舉辦了一場(chǎng)網(wǎng)絡(luò)研討會(huì)，重點(diǎn)聚焦AS ISO/IEC 42001:2023《信息技術(shù)  人工智能  管理系統(tǒng)》標(biāo)準(zhǔn)。這一新標(biāo)準(zhǔn)旨在改變?nèi)斯ぶ悄芄芾淼姆绞剑瑸槿斯ぶ悄芗夹g(shù)的道德管理和通用性提供一個(gè)明確的框架。

此次網(wǎng)絡(luò)研討會(huì)由澳大利亞技術(shù)委員會(huì)IT-43人工智能委員會(huì)成員、Virtual Ink Australia董事Harm Ellens主持，會(huì)議詳細(xì)探討了這一新標(biāo)準(zhǔn)的內(nèi)容。該活動(dòng)為技術(shù)專業(yè)人士和組織提供了寶貴的資源，讓他們深入了解該標(biāo)準(zhǔn)如何幫助他們有效地、在道德框架下管理人工智能系統(tǒng)。

活動(dòng)還包括現(xiàn)場(chǎng)問答環(huán)節(jié)，與會(huì)者可以向Ellens先生詢問與標(biāo)準(zhǔn)及其工作相關(guān)的問題。

現(xiàn)場(chǎng)問答?

問：銀行業(yè)是否采用并實(shí)施了該標(biāo)準(zhǔn)？

?答：是的，澳大利亞的一些金融組織正在積極努力實(shí)施該標(biāo)準(zhǔn)。加拿大一家銀行成功地用該標(biāo)準(zhǔn)的草案版本對(duì)AIMMS認(rèn)證程序進(jìn)行了測(cè)試，展示了其在金融部門的廣泛適用性。

?問：不實(shí)施人工智能管理系統(tǒng)標(biāo)準(zhǔn)的風(fēng)險(xiǎn)是什么？

答：組織在合規(guī)方面有落后的風(fēng)險(xiǎn)，尤其是在歐洲等地區(qū)，《歐洲人工智能法案》要求遵守AS ISO/IEC 42001:2023等高風(fēng)險(xiǎn)人工智能用例標(biāo)準(zhǔn)。不執(zhí)行可能導(dǎo)致重大的法律和業(yè)務(wù)挑戰(zhàn)。

問：為什么公司，尤其是中小企業(yè)，應(yīng)該考慮實(shí)施AS ISO/IEC 42001:2023標(biāo)準(zhǔn)？

答：實(shí)施該標(biāo)準(zhǔn)有助于支持提高或恢復(fù)公司在人工智能方面的可靠性水平，特別是在零售等行業(yè)，人工智能的使用引發(fā)了隱私問題。目前正在編寫一本手冊(cè)，以幫助中小企業(yè)實(shí)施過程，確保它既易于管理，又不占用大量資源。

問：該標(biāo)準(zhǔn)是否適用于人工智能開發(fā)者和采購(gòu)商？

答：是的，該標(biāo)準(zhǔn)為開發(fā)者和采購(gòu)商提供了指導(dǎo)，解決了他們?cè)谟行Ч芾砣斯ぶ悄芟到y(tǒng)方面的獨(dú)特風(fēng)險(xiǎn)和目標(biāo)。

問：AS ISO/IEC 42001:2023標(biāo)準(zhǔn)將如何與人工智能技術(shù)的進(jìn)步保持同步？

答：該標(biāo)準(zhǔn)將每五年進(jìn)行一次審查，也可能每?jī)赡昊蚋鶕?jù)需要進(jìn)行一次更新，以應(yīng)對(duì)人工智能技術(shù)的快速發(fā)展，包括生成式人工智能。

問：政府部門和機(jī)構(gòu)是否可以使用AS ISO/IEC 42001:2023標(biāo)準(zhǔn)？

答：當(dāng)然可以，該標(biāo)準(zhǔn)高度適用于政府環(huán)境，有利于負(fù)責(zé)任地使用和采購(gòu)人工智能。

問：AS ISO/IEC 42001:2023標(biāo)準(zhǔn)與其他人工智能標(biāo)準(zhǔn)的區(qū)別是什么？

答：AS ISO/IEC 42001:2023是第一個(gè)獨(dú)立于任何特定法律法規(guī)構(gòu)建的國(guó)際公認(rèn)的人工智能管理標(biāo)準(zhǔn)。其全球覆蓋范圍使其有別于區(qū)域標(biāo)準(zhǔn)，為跨境人工智能管理提供了一個(gè)全面的框架。

問：澳大利亞企業(yè)準(zhǔn)備采用AS ISO/IEC 42001:2023的百分比或比例是多少？

答：根據(jù)傳聞證據(jù)，可能受到美國(guó)和歐盟法規(guī)影響的組織正在開始準(zhǔn)備AS ISO/IEC 42001:2023。目前，這一數(shù)字處于個(gè)位數(shù)百分比，隨著非盟監(jiān)管的形成，預(yù)計(jì)還會(huì)增加。

問：采購(gòu)人工智能是否指GPT 3.5等基本LLM模型？如果我們?cè)诖嘶A(chǔ)上進(jìn)行開發(fā)，我們是否在使用采購(gòu)的人工智能？

答：這兩者都適用。該標(biāo)準(zhǔn)確定了各種利益相關(guān)者的角色，這些角色從人工智能生產(chǎn)者到人工智能服務(wù)提供商和人工智能用戶各不相同。生產(chǎn)者和用戶都可能被要求遵守標(biāo)準(zhǔn)。然而，它們將以不同的方式實(shí)現(xiàn)這一遵守。

問：這是一個(gè)獨(dú)立的標(biāo)準(zhǔn)嗎？是否需要通過AS/NZS ISO 9001:2016或AS ISO/IEC 27001:2022等認(rèn)證？

答：AS ISO/IEC 42001:2023標(biāo)準(zhǔn)專門針對(duì)人工智能系統(tǒng)，而AS ISO/IEC 27001:2022則專門針對(duì)網(wǎng)絡(luò)安全。所以，兩者都是必須的。然而，這些多種管理標(biāo)準(zhǔn)可以相互引用。因此，符合AS/NZS ISO 9001:2016和AS ISO/IEC 27001:2022減少了整個(gè)AS ISO/IEC 42001:2023的建立和維護(hù)工作。

問：如果完全實(shí)施，這一標(biāo)準(zhǔn)是否足以作為一個(gè)組織的內(nèi)部人工智能治理框架？

答：ISO/IEC 38507中描述了的人工智能政策和人工智能目標(biāo)提供信息。對(duì)于大多數(shù)組織來說，AS ISO/IEC 42001:2023可能已經(jīng)足夠了。但對(duì)于其他公司，尤其是那些使用嵌入式人工智能制造設(shè)備和產(chǎn)品的公司，或者那些自動(dòng)化財(cái)務(wù)建議的公司，可能需要符合其他標(biāo)準(zhǔn)。這也與任何立法和監(jiān)管要求是分開的，我們將在2024-2025年期間看到世界各地出現(xiàn)一些立法和監(jiān)管要求。包括澳大利亞。

問：你認(rèn)為公司在組織中實(shí)施該標(biāo)準(zhǔn)時(shí)可能面臨的主要挑戰(zhàn)是什么？

答：第一步往往是最難的。創(chuàng)建已經(jīng)部署的人工智能清單并確定人工智能管理系統(tǒng)的范圍需要大量人員參與。在此基礎(chǔ)上，該標(biāo)準(zhǔn)大致概括了您必須完成的過程。

問：你見過制藥公司采用這個(gè)標(biāo)準(zhǔn)嗎？

答：還沒有。一些醫(yī)療器械公司已經(jīng)在實(shí)施該標(biāo)準(zhǔn)。診斷軟件現(xiàn)在被視為一種“設(shè)備”，因此如果制藥公司開發(fā)和發(fā)布診斷應(yīng)用程序，他們很可能在未來的某個(gè)階段不得不采用AS ISO/IEC 42001:2023。

問：AS ISO/IEC 42001:2023的制定是否考慮了GenAI和LLM的影響以及與其他人工智能系統(tǒng)相比的不同風(fēng)險(xiǎn)狀況？

答: AS ISO/IEC 42001:2023可應(yīng)用于任何人工智能，包括非機(jī)器學(xué)習(xí)人工智能和最近的機(jī)器學(xué)習(xí)方法和發(fā)展。ISO/IEC 23894可以幫助您的組織以及GenAI和LLM的用例進(jìn)行風(fēng)險(xiǎn)評(píng)估。

問：標(biāo)準(zhǔn)中有哪些部分對(duì)技術(shù)主管最有用？更廣泛地說，你能告訴我們你對(duì)技術(shù)主管有什么建議嗎？

答：對(duì)技術(shù)主管最有用的部分是參考另一個(gè)標(biāo)準(zhǔn)ISO/IEC 5338《AI系統(tǒng)生命周期過程》。它描繪了人工智能系統(tǒng)生命周期與傳統(tǒng)軟件生命周期的區(qū)別。AS ISO/IEC 42001:2023的許多部分都參考了ISO/IEC 5338，作為技術(shù)負(fù)責(zé)人，您將被要求演示如何管理人工智能系統(tǒng)的生命周期。該標(biāo)準(zhǔn)將為您提供一個(gè)流程框架，您可以使用該框架來審查和更新組織的開發(fā)實(shí)踐。