化工儀器網(wǎng)手機(jī)版
移動端訪問更便捷
今日焦點 Today's Focus
查看更多+-
干貨滿滿！“第二屆ICP-MS及ICP-MS/MS創(chuàng)新成果線上會議”開課在即
2025年6月20日14:00為了深入交流ICP-MS與ICP-[詳細(xì)]
《人工智能 計算機(jī)視覺系統(tǒng)可信賴技術(shù)規(guī)范》團(tuán)體標(biāo)準(zhǔn)征求意見
2023年08月29日 11:50:11
來源：儀表網(wǎng) 點擊量：3948
計算機(jī)視覺技術(shù)領(lǐng)域主要研究集圖像采集、處理、分析過程涉及的硬件、軟件、算法、系統(tǒng)等的設(shè)計、制造、應(yīng)用和維護(hù)。
【化工儀器網(wǎng) 標(biāo)準(zhǔn)發(fā)布】按照中國電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會團(tuán)體標(biāo)準(zhǔn)制修訂項目工作安排，標(biāo)準(zhǔn)起草組已完成《人工智能 計算機(jī)視覺系統(tǒng)可信賴技術(shù)規(guī)范》團(tuán)體標(biāo)準(zhǔn)(項目號：CESA-2021-1-001)征求意見稿的編制工作。現(xiàn)按照中國電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會《團(tuán)體標(biāo)準(zhǔn)制修訂程序(試行)》的要求，公開征求意見。
計算機(jī)視覺技術(shù)領(lǐng)域主要研究集圖像采集、處理、分析過程涉及的硬件、軟件、算法、系統(tǒng)等的設(shè)計、制造、應(yīng)用和維護(hù)。計算機(jī)視覺技術(shù)是典型的人工智能領(lǐng)域，其技術(shù)及應(yīng)用發(fā)展歷經(jīng)多年，也是AI技術(shù)使用最多的技術(shù)領(lǐng)域之一，其應(yīng)用行業(yè)涵蓋國防、軍事、科技、經(jīng)濟(jì)、教育、工業(yè)生產(chǎn)、農(nóng)業(yè)、服務(wù)業(yè)等幾乎所有重要行業(yè)。在人工智能技術(shù)使用在該領(lǐng)域之前，就有相關(guān)比較成熟的應(yīng)用、工具組件(如opencv)、標(biāo)準(zhǔn)(如JTC1 SC24及信標(biāo)委SC24)。在人工智能技術(shù)應(yīng)用后，為計算機(jī)視覺領(lǐng)域帶來了革命性的變化，以往因為準(zhǔn)確率而不能獲得實際應(yīng)用的場景，出現(xiàn)了相當(dāng)規(guī)模的實踐，其中不乏成熟度較高的實踐(如人臉識別、工業(yè)質(zhì)檢、金融業(yè)光學(xué)字符識別等)。隨著人工智能技術(shù)的飛速發(fā)展，已有更多的先進(jìn)解決方案涌現(xiàn)。
AI可信賴是AI的一個研究領(lǐng)域，也是未來影響AI使能應(yīng)用效果的重要方面。瞄準(zhǔn)AI技術(shù)應(yīng)用最多、最廣泛的計算機(jī)視覺領(lǐng)域，制定AI可信賴技術(shù)規(guī)范，從方法論層面指引計算機(jī)視覺系統(tǒng)AI可信賴建設(shè)，提出計算機(jī)視覺系統(tǒng)可信賴技術(shù)要求及測試方法。在產(chǎn)業(yè)內(nèi)傳播有益經(jīng)驗，對計算機(jī)視覺產(chǎn)業(yè)的整體安全可信賴水平提升及健康發(fā)展有重要意義，影響深遠(yuǎn)。
當(dāng)前，國際上對AI應(yīng)用的科研、生產(chǎn)、標(biāo)準(zhǔn)化的重點之一是AI可信賴。各標(biāo)準(zhǔn)化組織或國際組織，如ISO/IEC， IEEE， ETSI， ITU-T， AIIA， EU的工作聚焦在AI可信賴技術(shù)能力方面。各計算機(jī)視覺或相關(guān)解決方案廠商也大力研究發(fā)展AI可信賴技術(shù)，研制具備可信賴能力的產(chǎn)品。可預(yù)期的是，在不久的未來，AI可信賴技術(shù)將成為各領(lǐng)域AI應(yīng)用的必要項。AI可信賴能力的要求也將是各領(lǐng)域發(fā)展不可回避的問題。計算機(jī)視覺是AI應(yīng)用最廣泛的領(lǐng)域，但缺乏針對核心AI部件(組件)的可信賴技術(shù)要求，普適AI可信賴技術(shù)在計算機(jī)視覺產(chǎn)業(yè)落地的問題，亟待解決。
本文件按照GB/T 1.1—2020《標(biāo)準(zhǔn)化工作導(dǎo)則 第1部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定起草。
本文件規(guī)定了基于人工智能的計算機(jī)視覺系統(tǒng)的可信賴技術(shù)要求和測試方法。本文件適用于基于人工智能的計算機(jī)視覺系統(tǒng)及其硬件、軟件和模型等部件的可信賴設(shè)計及測試, 為計算機(jī)視覺相關(guān)研制機(jī)構(gòu)、測試機(jī)構(gòu)、服務(wù)提供機(jī)構(gòu)及用戶提供參考。
可信賴概念要求：
1.可靠性
計算機(jī)視覺系統(tǒng)，符合以下可靠性要求：
a) 應(yīng)能對附錄 B 中規(guī)定的圖像、視頻輸入給出反饋；
b) 附錄 B 中規(guī)定的圖像、視頻輸入，應(yīng)不致使系統(tǒng)進(jìn)入異常或無法持續(xù)服務(wù)的狀態(tài)；
c) 對不在附錄 B 中規(guī)定的圖像、視頻輸入，其中間或最終處理、分析結(jié)果應(yīng)可用；
d) 訓(xùn)練過程應(yīng)能保存斷點，在訓(xùn)練因故障停止后，從斷點繼續(xù)訓(xùn)練，宜能自動重啟訓(xùn)練。
2.公平性
計算機(jī)視覺系統(tǒng)，符合以下公平性要求：
a) 圖像、視頻處理、分析結(jié)果不應(yīng)對個體、社群造成歧視性傷害；
注：對視覺業(yè)務(wù)需求本身要求的情況除外(如某醫(yī)療視覺業(yè)務(wù)本身要求從步態(tài)判別殘障及恢復(fù)狀態(tài)，則不屬于歧視性傷害)。
b) 在未得到法律授權(quán)時，圖像、視頻處理、分析過程對同類數(shù)據(jù)應(yīng)采用相同的自動決策邏輯；
c) 對特殊人群(如殘障人群)，宜實現(xiàn)特別的信息處理或傳遞方式，使該群體能使用系統(tǒng)的功能。
示例：某視覺系統(tǒng)識別輸入圖像輸出對圖像的解釋音頻，但對聾啞人群提供解釋音頻的文本以便閱讀。
隱私保護(hù)要求：
計算機(jī)視覺系統(tǒng)隱私數(shù)據(jù)保護(hù)應(yīng)滿足以下要求，包含但不限于：
a) 明確隱私數(shù)據(jù)保護(hù)在數(shù)據(jù)生命周期管理內(nèi)的工作和要求，形成方案體系，內(nèi)容應(yīng)符合法律、行政法規(guī)、部門規(guī)章和其他規(guī)范性文件的強(qiáng)制性要求(包括 GB/T 35273—2020 要求)。隱私數(shù)據(jù)保護(hù)的方案體系，內(nèi)容應(yīng)至少覆蓋：
1) 涉及隱私數(shù)據(jù)存儲時，應(yīng)履行告知義務(wù)、獲取同意隱私數(shù)據(jù)存儲請求及相應(yīng)安全管理措施；
2) 業(yè)務(wù)目標(biāo)完成或圖像、視頻采集、處理分析計算設(shè)施更換、報廢時，刪除用戶隱私數(shù)據(jù)并實施防恢復(fù)措施；
3) 可再分配資源(視頻、圖像云空間)再分配之前，刪除原有用戶隱私數(shù)據(jù)并實施防恢復(fù)措施；
4) 隱私數(shù)據(jù)留存方案應(yīng)對用戶透明，明確界定需要留存的用戶隱私數(shù)據(jù)范圍、留存時間、目的及用戶告知機(jī)制。
b) 控制用戶隱私數(shù)據(jù)可見范圍，宜使用以下方法，包含但不限于：
1) 主動隱私提醒；
2) 隱私符號；
3) 透明日志。
c) 控制數(shù)據(jù)關(guān)聯(lián)性，宜使用解關(guān)聯(lián)方法，包含但不限于：
1) K 匿名，L 多樣性，T 接近性；
2) 數(shù)據(jù)屏蔽(如數(shù)據(jù)掩碼、數(shù)據(jù)截斷等)；
3) 隨機(jī)化(如使用圖像、視頻加噪、置換等)；
4) 同態(tài)加密；
5) 安全多方計算。
d) 增強(qiáng)基本安全性，宜使用安全加密方法，包含但不限于：
1) 可搜索加密；
2) 基于身份認(rèn)證的訪問控制；
3) 安全加密傳輸。
e) 檢查數(shù)據(jù)完整性，宜使用完整性檢測技術(shù)，包含但不限于：
1) 數(shù)字簽名；
2) 遠(yuǎn)程證明。
f) 確保對數(shù)據(jù)的可干預(yù)性，宜使用數(shù)據(jù)存取干預(yù)技術(shù)，包含但不限于：
1) 圖像、視頻數(shù)據(jù)溯源；
2) 細(xì)粒度訪問控制；
3) 隱私風(fēng)險度量；
4) 用戶(圖像、視頻數(shù)據(jù)主體)同意機(jī)制及工具。
g) 提高用戶身份標(biāo)識數(shù)據(jù)安全性，宜實施數(shù)據(jù)脫敏，包含但不限于：
1) 將居民身份證、銀行卡、刑事證據(jù)、用戶面部、行為動作、病灶、傷殘部位的圖像、視頻數(shù)據(jù)與用戶身份標(biāo)識數(shù)據(jù)分離存儲；
2) 使用動態(tài)脫敏技術(shù)，確保數(shù)據(jù)從數(shù)據(jù)庫中取出時已脫敏；
3) 針對用戶身份標(biāo)識數(shù)據(jù)設(shè)計脫敏算法和混淆冗余數(shù)據(jù)，抗重識別，滿足以下要求；
• 在不慎泄露部分圖像、視頻數(shù)據(jù)及部分用戶身份識別數(shù)據(jù)時，用戶身份不被重識別；
• 在不慎泄露部分身份標(biāo)識數(shù)據(jù)時，用戶身份不被重識別；
• 在不慎泄露部分敏感屬性數(shù)據(jù)時，用戶身份不被重識別。
h) 宜采用差分隱私技術(shù)，保護(hù)訓(xùn)練數(shù)據(jù)中的個人信息；
i) 宜采用聯(lián)邦學(xué)習(xí)，使訓(xùn)練數(shù)據(jù)不被泄露。
更多詳情請見附件。
相關(guān)閱讀 Related Reading
查看更多+-
武漢加速布局低空經(jīng)濟(jì)：新增10條物流航線助力“空中快遞”時代到來
武漢都市圈率先開展市內(nèi)和城際低空物流航線試點，推動無人駕駛載人航空器在城市空中物流中的示范應(yīng)用。2025-06-18 14:35:52 -
6月16日，國家藥監(jiān)局就《關(guān)于優(yōu)化創(chuàng)新藥臨床試驗審評審批有關(guān)事項的公告(征求意見稿)》公開征求意見。2025-06-18 10:53:39
-
大連海關(guān)推出35項促進(jìn)跨境貿(mào)易便利化措施
大連海關(guān)近期推出的35項促進(jìn)跨境貿(mào)易便利化措施，旨在優(yōu)化口岸營商環(huán)境、提升通關(guān)效率、降低企業(yè)成本。2025-06-17 15:13:01 -
5月工業(yè)生產(chǎn)保持較快增長！消費市場延續(xù)向好勢頭
5月，全國規(guī)模以上工業(yè)增加值同比增長5.8%，社會消費品零售總額同比增長6.4%。1至5月，全國固定資產(chǎn)投資（不含農(nóng)戶）同比增長3...2025-06-17 14:48:24 -
英偉達(dá)加速歐洲AI布局：計劃建設(shè)20余座AI工廠，兩年內(nèi)算力提升10倍
英偉達(dá)CEO黃仁勛宣布，公司將在歐洲7個國家設(shè)立AI技術(shù)研究中心，并計劃建設(shè)超過20座大型AI工廠。2025-06-17 14:29:22 -
山西最大水上光伏項目成功并網(wǎng)，助力綠色能源轉(zhuǎn)型
“光伏 漁業(yè)”復(fù)合模式項目利用芮城縣陌南鎮(zhèn)的水庫水面建設(shè)實現(xiàn)土地資源高效利用。2025-06-17 14:29:14
版權(quán)與免責(zé)聲明
- ①凡本網(wǎng)注明“來源：化工儀器網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-化工儀器網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其他方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來源：化工儀器網(wǎng)”。違反上述聲明者，本網(wǎng)將追究其相關(guān)法律責(zé)任。
- ②本網(wǎng)轉(zhuǎn)載并注明自其他來源（非化工儀器網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點和對其真實性負(fù)責(zé)，不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。其他媒體、網(wǎng)站或個人從本網(wǎng)轉(zhuǎn)載時，必須保留本網(wǎng)注明的作品第一來源，并自負(fù)版權(quán)等法律責(zé)任。
- ③如涉及作品內(nèi)容、版權(quán)等問題，請在作品發(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系，否則視為放棄相關(guān)權(quán)利。
