隨著現代科技的進步，連接機器的網絡，如自駕車、送貨機器人和智能基礎設施，正變得越來越普遍。這些系統通常被稱為網絡物理系統，依賴多個自主代理之間的通信和協調。然而，一個關鍵挑戰依然存在：這些機器如何在做出決策之前判斷哪些信息是可信的？哈佛大學約翰·保爾森工程與應用科學學院的研究人員提出了一個創新解決方案，推出了一個名為「cy-trust」的框架，旨在使機器人和車輛的網絡更安全、更可靠。
cy-trust 的概念集中於以可量化的方式評估信任。每個機器人或車輛不會盲目接受所有來自其他代理的數據，而是會評估收到信息的可靠性。這種評估以數值形式表達，通常範圍從零到一，代表信息來源的可信度。根據這一分數，系統決定該信息對其行動的影響程度。這種方法至關重要，因為傳統的網絡安全方法主要控制系統的訪問權限，但對於動態的多代理環境中的實時決策並未充分解決。
研究人員 Gil 表示：「網絡物理系統將變得非常普遍。問題是，我們如何保障這些系統的安全？如何確保它們在進入現實世界時具備韌性？」這一框架的需求源於連接自動化系統所帶來的獨特風險。在這些網絡中，即使是單個故障或惡意代理也能干擾整個系統。例如，一輛被駭的車輛可能會發送虛假的交通數據，導致其他車輛選擇不安全的路徑；或者在救援任務中的機器人可能提供不正確的位置信息，造成覆蓋範圍的缺失。
為了解決這些挑戰，研究人員建議自動化系統應該利用其搭載的傳感器，如攝像頭、雷達、全球定位系統 (GPS) 和激光雷達 (lidar)，來獨立驗證信息。通過將外部數據與實際觀察進行比較，機器可以檢測不一致性，減少對潛在有害輸入的依賴。此外，先進的信號處理技術可以幫助識別信息是否真正來自不同來源，還是被單一惡意行為者操控。這種分層的方法使系統能夠做出更明智和安全的決策。
cy-trust 框架已經在涉及合作機器人的受控實驗中進行測試，並模擬了攻擊者。在這些測試中，一些機器人試圖通過發送虛假信息或假裝成多個代理來擾亂系統。利用 cy-trust 模型，合作機器人能夠對可疑輸入分配較低的信任分數，隨著時間推移忽略這些信息。因此，儘管存在對抗行為，系統仍能有效運行，顯示出該框架在現實應用中提升韌性的潛力。
Gil 指出：「這一 cy-trust 的概念與心理信任之間有明顯的平行關係。心理信任是一種在某種程度的風險不可避免的環境中接受風險的方式，儘管無法獲取全部信息，但仍需做出決策。」這項研究對未來科技具有重要意義。共享出行、自动化貨運系統和智能城市等應用依賴於機器之間的可靠協調。通過在設計中融合基於信任的決策，這些系統可以變得更安全、更高效。此外，研究人員強調，僅僅開發技術解決方案是不夠的；政策和法規也必須隨之演變，以確保公眾對這些技術的信心。
cy-trust 框架的引入代表了在建立更安全和可靠的自動化系統網絡方面的重要一步。通過使機器能夠動態評估和管理信任，這一方法解決了現代機器人技術和人工智能中最關鍵的挑戰之一。隨著這些技術不斷擴展到日常生活中，此類創新將在確保其安全、負責任地運行方面發揮至關重要的作用。
