Kutatók tudományos álcával kerülték meg a nyelvi modell védelmi vonalait, veszélyes biológiai kutatásokat támogatva. A Claude mesterséges intelligencia rendszereit aktív tudósok próbálták felhasználni patogének és toxinok módosítására. A közzétett fenyegetésértékelési jelentés rávilágított arra, hogy a mesterséges intelligencia határainak védelme nehéz feladat elé állítja a fejlesztőket, amikor a segítő szándékú tudomány és a biológiai fegyverkezés átfedésbe kerül.
A feltárt esetek rávilágítanak a modern nyelvi modellek egyik legégetőbb problémájára: a kettős felhasználhatóságra. A biológiai biztonsági elemzések szerint azok a technológiai lépések, amelyek egy vírus elleni vakcina kifejlesztéséhez szükségesek, szinte megegyeznek a patogén terjedési képességét fokozó műveletekkel. Ez a finom határvonal rendkívül sebezhetővé teszi az automata szűrőrendszereket.
Kettős felhasználású kutatások árnyékában
A nyilvánosságra hozott dokumentumok öt konkrét esettanulmányt részleteznek, amelyek során elismert intézményekben dolgozó szakemberek próbáltak érzékeny információkhoz jutni. Az egyik feljegyzett esetben egy katonai kutatóintézethez köthető szakember kért segítséget a chikungunya vírus módosítását célzó pályázathoz. A szúnyogok által terjesztett betegség kórokozójának genetikai átalakítása a gyógyszerkutatás mellett a fertőzőképesség növelésére is alkalmas lehet.
Egy másik incidens során a Claude felületén olyan lekérdezések jelentek meg, amelyek az H5N1 madárinfluenza vírus emberi sejtek közötti hatékonyabb terjedését célozták. Hasonló próbálkozás történt az orthopoxvírusok – köztük a himlőt okozó kórokozók – immunrendszert elkerülő módosításaival, valamint állati mérgek és baktériumtoxinok szerkezetének optimalizálásával kapcsolatban is. Bár a fejlesztőcég nem állítja, hogy a kutatóknak szándékos ártási szándékuk lett volna, az adatok felderítése jól mutatja a technológiai visszaélés valós kockázatait.
Védelmi hálók kijátszása és hálózati trükkök
A szigorított korlátozások megkerülésére a felhasználók összetett technikai módszereket alkalmaztak. Mivel bizonyos területeken és országokban a rendszer elérése tiltott, a visszaélést elkövetők hamis fiókokkal, virtuális magánhálózatokkal és külső viszonteladói felületekkel játszották ki a földrajzi blokkolást. A lekérdezések megfogalmazásakor tudományos szakzsargont és elméleti kontextust használtak, amivel sikeresen átverték a megszokott biztonsági osztályozókat.
A mesterséges intelligencia nem hoz létre közvetlenül biológiai mintákat, de az összetett szakmai folyamatok lépésről lépésre történő leírásával radikálisan lecsökkentheti a veszélyes kísérletek előkészítési idejét. Az automatizált elemzések és a molekuláris optimalizációs javaslatok gyorsítják a laboratóriumi munkát. Ha ez a képesség hiányos ellenőrzés mellett működik, az az egészségügyi biztonsági rendszereket is közvetlenül fenyegetheti.
Szigorúbb szűrés és iparági kihívások
A feltárt esetek hatására az üzemeltetők azonnal felfüggesztették az érintett fiókokat, és felszámolták a hozzáférést biztosító közvetítő hálózatokat. Az összegyűjtött tapasztalatokat beépítették a legújabb Claude modellek automatikus biztonsági algoritmusaiba, hogy a rendszer még korábban azonosítani tudja a kockázatos biológiai mintázatokat. Az észlelt adatokat emellett megosztották az illetékes hatóságokkal és partnerekkel is.
A szakértők szerint a kihívás a jövőben még nagyobb lesz, ahogy a nyelvi modellek tudása eléri a fejlett természettudományos szintet. A túlzottan szigorú blokkolás megakaszthatja a gyógyszerkutatást és az életmentő vakcinák fejlesztését, miközben a túl engedékeny szűrés utat nyithat a biológiai fenyegetéseknek. Az egyensúly megtalálása az egész technológiai szektor számára az elkövetkező évek egyik legnehezebb feladata marad.