可信AI由理論研究邁向工程化落地。隨著人工智能技術的快速發(fā)展，社會各界對可信AI研究已經從理論探索逐步走向工程化落地實踐。政府與研究機構相關政策和規(guī)范從宏觀指導，開始向可操作、可落地的規(guī)范演進。在法律監(jiān)管層面，各政府部門的法規(guī)政策愈發(fā)重視實施和操作。例如新加坡于5月出臺世界首個AI治理測試框架及工具包；英國6月宣布首個人工智能倫理和監(jiān)管的重大研究計劃。
在行業(yè)可信實踐層面，各國研究機構紛紛開展可信AI技術研究及標準制定工作，為業(yè)界提供評估準則并聚焦準入落地。如英國BSI與艾倫圖靈實驗室合作開發(fā)技術標準改善人工智能治理，美國NIST發(fā)布《人工智能偏差識別和管理標準》和《AI風險管理框架(草案)》，為企業(yè)和機構的AI風險管理提供了大量可參考的要求和指導。
在企業(yè)可信實踐層面，產業(yè)界從企業(yè)戰(zhàn)略管理和技術工具研發(fā)創(chuàng)新雙線并進，加速了可信AI在企業(yè)的落地實踐。如頭部科技企業(yè)先后發(fā)布了AI治理戰(zhàn)略和治理體系，成立了相關委員會和工作組，聚焦企業(yè)層面的AI治理和風險管理體系。同時可信AI技術和保障工具也在蓬勃發(fā)展，各大企業(yè)積極研發(fā)可信產品應用，也開源了一批聚焦隱私性、魯棒性、安全性、可解釋性、公平性等可信能力的測試工具。
全球人工智能市場收支規(guī)模達850廳美元,預測,2022年該市場規(guī)模將同比增長約20%至 1017廳美元,并將于2025年突破2000廳美元大關, CAGR 達24.5%
調度決策外賣調度系統(tǒng)困住騎手;個性化推薦電商場景下的信息繭房和馬太效應;內容治理如何守護清朗健康的網絡環(huán)境;人工智能可以放心使用嗎
數(shù)據不完備和濫用風險突出而損害用戶的權益;人工智能算法存在固有缺陷在可解釋性魯棒性偏見歧視等方面尚存在局限;企業(yè)人工智能管理體系不完善
企業(yè)作為落實人工智能治理原則的重要主體,形成覆蓋人工智能產品全生命周期的風險管理機制,提出了面向可持續(xù)發(fā)展的人工智能治理基本框架
構建面向可持續(xù)發(fā)展的人工智能技術體系,推動人工智能技術可用、可靠、可信，其內涵包括提升技術安全和構建技術管理機制兩個層面工作
在規(guī)劃設計階段機器學習場景中固有的不可預測性,傳達實施偏差會進一步加劇;在研發(fā)部署階段模型運行之后的動態(tài)更新缺乏足夠驗證等挑戰(zhàn)
高增長:未來五年全球人工智能市場規(guī)模平均增速將超過20%;高集中:軟件占比近40%硬件產品占比接近35%;高壁壘:滲透率還不到4%
我國新一代人工智能治理工作框架應整合社會各界對AI社會技術復合體的離散性認知,突破AI包容審慎實踐的探索,建立基于“邏輯-秩序-監(jiān)管“的人工智能治理工作框架
多模態(tài)數(shù)據具有異構性 多模態(tài)數(shù)據的關聯(lián)難度表示較大 多模態(tài)知識融合困難 多模態(tài)問答大多只能處理簡單的問題 多模態(tài)知識問答推理能力弱 可解釋性差
谷歌CVPR 2022擁有18億參數(shù),并使用30億的 標注圖像進行訓練,在ImageNet上取得了新的記錄90.45%,證明了視覺大模型（30億參數(shù)）在廣泛視覺問題上的有效性
OpenAI提出DALLE模型,可以根據用戶輸入的文本生成對應的圖像,Imagen模型,CogView,VQ-Diffusion 模型以及 NUWA-infinity 等效果同樣出色
告立足于算法的技術趨勢和行業(yè)應用現(xiàn)狀,從法律監(jiān)管,倫理治理,技術治理三個層面梳理總結國內外在算法治理方面的實踐做法,保障算法技術創(chuàng)新與應用健康
