[STIRI IT] Anthropic lansează modelul Claude Mythos pentru uz comercial, după ce a avertizat că este prea periculos pentru a fi „lăsat liber”

[HoooLigan]

Folosind o rețetă testată cu succes și la momentul lansării ChatGPT, Anthropic a propagat mai întâi mesaje alarmante despre cât de periculos poate fi AI-ul Claude Mythos dacă încape pe mâini greșite, doar pentru a-și ignora propriile avertismente anunțând disponibilitatea publică a mai multor modele AI din clasa Mythos.

Pentru cine nu a urmărit firul evenimentelor, Mythos a fost anunțat în aprilie ca un model AI testat în cerc restrâns, cu parteneri din sfera instituțiilor americane de informații și companii americane alese pe sprânceană, Anthropic anunțând cu maximă îngrijorare că a restricționat accesul și că amână pe termen nelimitat lansarea comercială a acestui produs.

Pe scurt, Claude Mythos este un AI special dezvoltat pentru a investiga și descoperi pe repede înainte vulnerabilități de securitate în aplicații software de tot felul. Însă așa cum au arătat și reprezentanții Mozilla, una dintre companiile invitate pentru testare în cerc restrâns, deși Claude Mythos acționează precum o armată de hackeri înarmată cu provizii nelimitate de băuturi energizante, puterea și capabilitățile sale sunt constrânse de experiența de hacking a exemplelor reale folosite pentru antrenarea modelului AI. Chiar dacă ar putea apărea și excepții, în general AI-ul Mythos nu poate descoperi bug-uri și vulnerabilități software pe care un hacker experimentat nu le-ar fi descoperit și pe cont propriu, dacă ar fi avut suficient timp la dispoziție.

Dar chiar și așa, Mythos poate fi cu ușurință clasificat drept un hazard/pericol major la adresa securității cibernetice la modul general, dacă orice „antreprenor” fără experiență de hacking dar cu fonduri suficiente pentru achiziționarea unei licențe achiziționează și pune la treabă unul dintre modelele AI puse la dispoziție de Anthropic.

”Avantajul va aparține părții care poate profita la maximum de aceste instrumente”, a avertizat Anthropic în aprilie, când a anunțat modelul Mythos.

„Pe termen scurt, aceștia ar putea fi atacatori, dacă laboratoarele de frontieră nu sunt atente la modul în care lansează aceste modele. Pe termen lung, ne așteptăm ca apărătorii să fie cei care vor direcționa mai eficient resursele și vor folosi aceste modele pentru a remedia erorile înainte de lansarea vreunui cod nou.”

 

Sursa: Apasati aici !