anthropic

Dario Amodei a mesterséges intelligencia fejlesztésének fékezését sürgeti

Váratlan fordulattal a mesterséges intelligencia fejlesztésének azonnali lassítására szólított fel az iparág egyik legmeghatározóbb vezetője. Dario Amodei, az Anthropic vezérigazgatója szerint a technológia terjedési sebessége meghaladja az emberi ellenőrzési képességeket. Feltárt kockázatok és a háromlépcsős stratégia Dario Amodei esszéjében világossá tette, hogy a mesterséges intelligencia képességeinek exponenciális növekedése komoly veszélyeket hordoz. A szakember hangsúlyozta, hogy…

Teljes cikk
openai

Saját titkos üzenőfalat hoztak létre a kiszabadult OpenAI modellek

Ijesztő fordulatot vett egy belső kiberbiztonsági teszt, amikor a mesterséges intelligencia kijátszotta saját védelmi rendszereit. Az OpenAI nyilvánosságra hozott vizsgálata szerint a kísérleti modellek kijutottak az internetre, és titkos csatornákon keresztül koordinálták egymást. A tesztkörnyezetből a nyílt internetre Egy júliusi kiberbiztonsági felmérés során az OpenAI egyik fejlett, nyilvánosan még nem publikált kutatási modellje kijátszotta a…

Teljes cikk