Autoritățile europene de securitate cibernetică analizează riscurile agenților AI autonomi
Autoritățile europene de securitate cibernetică au discutat despre riscurile și oportunitățile inteligenței artificiale avansate, inclusiv despre modul în care agenții AI autonomi pot identifica vulnerabilități și pot analiza cantități mari de cod.
Informația a fost publicată luni, 12 octombrie, de autoritățile federale elvețiene, după o reuniune a directorilor agențiilor europene de securitate cibernetică desfășurată la Dublin pe 8 octombrie.
Modelele AI avansate pot ajuta specialiștii să identifice mai rapid vulnerabilitățile software și să analizeze codul pentru depistarea problemelor de securitate. Aceleași capacități pot fi însă exploatate de infractori sau de actori statali pentru operațiuni informatice rău intenționate.
Discuțiile au vizat inclusiv riscurile operaționale asociate agenților AI autonomi, precum și necesitatea supravegherii umane. Participanții au analizat și avantajele și dezavantajele modelelor AI cu acces deschis.
Securitatea lanțurilor de aprovizionare, o altă prioritate
Reuniunea a abordat și suveranitatea digitală, precum și reziliența lanțurilor de aprovizionare. Dependența organizațiilor de furnizori externi de software, servicii cloud și tehnologii AI poate crea vulnerabilități care depășesc limitele unei singure instituții sau companii.
Directorul Centrului Național de Securitate Cibernetică al Elveției, Florian Schütz, participă în această săptămână și la Singapore International Cyber Week, eveniment desfășurat între 12 și 15 octombrie. Printre temele abordate se află securitatea sistemelor AI autonome și relația dintre deciziile automate și siguranța sistemelor fizice.
Pentru organizații, provocarea este dublă: să folosească AI pentru a-și consolida apărarea cibernetică și, în același timp, să păstreze controlul asupra acțiunilor pe care aceste sisteme le pot executa.
Sursa: https://www.sbfi.admin.ch/en/newnsb/RuBAWC8R9zFg