商湯發佈SenseTrust治理平台 促進生成式AI可信發展

2023718────商湯科技近日在2023世界人工智能大會(WAIC)期間推出全面升級的「商湯日日新SenseNova」大模型體系,同時發佈全新商湯可信AI基礎設施「SenseTrust」。「SenseTrust」包含一套完整覆蓋數據、模型、應用治理環節的可信AI治理工具,可為商湯及行業提供倫理與安全的檢測與加固解決方案,推動安全可信的人工智能產業生態的發展。

图形用户界面描述已自动生成

商湯科技推出可信AI基礎設施「SenseTrust」

活動上,商湯副總裁、AI倫理與治理委員會主席張望表示:「技術規模化落地有兩點關鍵條件,一是成本低、應用廣的普惠性,二是要可靠、可信的安全性。以大算力為基礎的大模型及通用人工智能為加速了條件一的滿足,同時也帶來了技術濫用風險的規模化升級。如何保障人工智能系統的安全可信已經成為業界乃至全社會面臨的一項緊迫課題。為此,商湯針對新時期人工智能的風險特點,打造覆蓋數據處理、模型開發、應用部署等AI系統全生命週期的可信AI基礎設施SenseTrust,以助力打造可信的大模型。」

活動期間,商湯也正式發佈了由商湯智能產業研究院與上海交通大學計算法學與AI倫理研究中心,共同編制的人工智能倫理與治理的年度報告─《商湯大模型倫理原則與實踐白皮書》。白皮書以大模型發展為背景、生成式人工智能治理為主題,透過「商湯日日新SenseNova」大模型體系治理實踐作為案例,提出了生成式人工智能治理的核心原則和「三維對齊」科技倫理模式,呈現在AI治理領域的最新觀點。

商湯「SenseTrust」打造大模型時代可信AI安全網

大模型時代下,以「基礎模型+微調」為主要特徵的生產模式,大大降低了開發成本和應用門檻。隨著AI應用場景更加開放、數據模態更加多元、應用領域更加廣泛,技術濫用及風險來源同時呈指數級增長,風險評估標準更加難以界定,潛在影響大規模擴散。在應用層面,例如「幻覺」現象、數據「投毒」、混淆攻擊、誘導攻擊等風險陸續顯現,引發全球對人工智能風險挑戰的高度關注。

作為行業領先的人工智能企業,商湯科技一直以來高度重視人工智能倫理與治理工作,技術創新與技術治理發展並重。早在2019年,商湯就同時啓動了兩項前瞻性的工作,一項是大模型研發,另一項就是AI倫理與治理。此前,商湯已建立了完善的人工智能倫理與治理組織結構、管理制度、審查機制、工具體系、倫理文化建設體系和外部生態網絡,並獲得行業廣泛認可。

新時代下技術加速創新,應用日新月異,治理手段亦需相應升級以適應飛速發展、無限拓展的治理需求。商湯整合長期倫理治理思考及技術能力,針對當下生成式人工智能的風險特點,打造可信AI基礎設施「SenseTrust」,包含數據治理、模型治理、應用治理等層面技術工具,並可提供數據處理、模型訓練、模型部署、推理服務等全方位的可信AI檢測與加固「工具箱」。

「SenseTrust」商湯可信 AI 基礎設施應用圖景

今年WAIC上,「商湯日日新SenseNova」大模型體系再度升級。針對體系內的一系列應用平台,商湯在傳統「判別式模型」治理經驗的基礎上,結合生成式人工智能的風險特點,利用「SenseTrust」工具體系進行了一系列測評,並開展持續的追蹤測試,不斷提升風險防禦能力。

與此同時,商湯也積極將大模型和生成式人工智能的治理實踐成果向外輸出。例如,商湯「SenseTrust」綜合鑒偽解決方案投入到十多家銀行的安全系統中,對各類攻擊攔截的成功率超行業同類產品20%以上,有效防範身份盜取、支付盜刷等網絡詐騙。此外,模型體檢、數字水印,以及主動投毒保護等相關技術,也已通過「商湯AI安全治理開放平台」對外開放。

+++

關於商湯

作為人工智能軟件公司,商湯科技以「 堅持原創,讓 AI 引領人類進步」為使命,旨在持續引領人工智能前沿研究,持續打造更具拓展性、更普惠的人工智能軟件平台,推動經濟、社會和人類的發展,並持續吸引及培養頂尖人才,共同塑造未來。

商湯集團擁有深厚的學術積累,並長期投入於原創技術研究,不斷增強行業領先的多模態、多任務通用人工智能能力,涵蓋感知智能、自然語言處理、決策智能、智能內容生成等關鍵技術領域,同時包含 AI 芯片、AI 傳感器及 AI 算力基礎設施在內的關鍵能力。此外,商湯前瞻性打造新型人工智能基礎設施——商湯 AI 大裝置SenseCore,打通算力、算法和平台,並在此基礎上建立「商湯日日新SenseNova」大模型及研發體系,以低成本解鎖通用人工智能任務的能力,推動高效率、低成本、規模化的 AI 創新和落地,進而打通商業價值閉環,解決長尾應用問題,引領人工智能進入工業化發展階段。商湯集團業務涵蓋智慧商業、智慧城市、智慧生活、智能汽車四大板塊,相關產品與解決方案深受客戶與合作夥伴好評。

商湯科技倡導「發展」的人工智能倫理觀,並積極參與有關數據安全、隱私保護、人工智能倫理道德和可持續人工智能的行業、國家及國際標準的制訂,與多個國內及多邊機構就人工智能的可持續及倫理發展開展了密切合作。商湯科技《AI可持續發展道德准則》被聯合國人工智能戰略資源指南選錄,並於2021年6月發表,是亞洲唯一獲此殊榮的人工智能公司。

目前,商湯(股票代碼:0020.HK)已於香港交易所主板掛牌上市。商湯集團現已在香港、上海、北京、深圳、成都、杭州、南平、青島、西安、台北、澳門、京都、東京、新加坡、利雅德、阿布扎比、杜拜、吉隆坡、首爾等地設立辦公室。另外,商湯科技在德國、泰國、印度尼西亞、菲律賓等國家均有業務。更多訊息,請訪問商湯科技網站LinkedInTwitterFacebookYouTube專頁。











Victor
Victor
Victor 是一位擁有超過30年經驗的資深科技編輯。他在科技領域的廣泛知識和編輯技巧,使他成為行業內的權威。Victor 一直致力於提供高質量的科技新聞和評論,並且在業界享有很高的聲譽。