Dario Amodei

Dario Amodei a mesterséges intelligencia fejlesztésének lassítását szorgalmazza

Komoly vitát váltott ki a mesterséges intelligencia fejlesztési tempójának szándékos lassításáról szóló legújabb javaslat. Dario Amodei esszéjében amellett érvelt, hogy a biztonsági garanciák elmaradása miatt mérsékelni kell az új modellek képzésének sebességét. Az iparág egyik meghatározó vezetőjének megszólalása nyomán azonnal megindultak a politikai és technológiai egyeztetések. A felvetés szerint a jelenlegi versenyhelyzetben a cégek gyorsabban…

Teljes cikk
magas-biztonsagu-szerverszoba

Szigorít a Nvidia és a Palantir az OpenAI és az Anthropic modelljeinek használatán

Szigorú korlátozásokat vezettek be az amerikai technológiai és védelmi szektor meghatározó szereplői a legfejlettebb mesterségesintelligencia-modell használatára. A szigorítások hátterében az üzleti titkok és szellemi tulajdonok védelmével kapcsolatos aggodalmak állnak. A beszámolók alapján a Nvidia, a Palantir és a Booz Allen Hamilton is szigorította a külső mesterségesintelligencia-rendszerek belső elérhetőségét. A döntéshozók attól tartanak, hogy a beküldött…

Teljes cikk
Insight_Partners_logo

Devin Parekh szerint a kockázati tőkések túlzottan beszűkültek az OpenAI és az Anthropic körül: az Insight Partners eltérő utat választ

Míg a kockázati tőkealapok többsége mindent a legnagyobb mesterségesintelligencia-fejlesztőkre tesz fel, a sokszínűség védheti meg a befektetőket. A 90 milliárd dolláros vagyont kezelő Insight Partners társvezetője, Devin Parekh szerint a túlzott tőkekoncentráció hosszú távon komoly kockázatokat hordoz. Egymilliárdos tétek a piac tetején A technológiai szektorban tapasztalható tőkeáramlás mértéke elképesztő aránytalanságokat mutat. Az év első felében…

Teljes cikk
ai-es-gazdasag

Gyanakvást váltott ki a szilícium-völgyi cégek javaslata a mesterséges intelligencia lelassításáról

A mesterséges intelligencia fejlesztésének fékezését sürgetik a szilícium-völgyi óriások, ám a háttérben üzleti érdekek húzódhatnak. A vezető technológiai vállalatok biztonsági kockázatokra hivatkozva kérik a tempó mérséklését. A piaci elemzők és politikai szereplők viszont szkeptikusan fogadják a hirtelen jött aggodalmakat. Biztonsági aggályok vagy piaci számítás? A szuperintelligencia eléréséhez vezető úton az Anthropic vezérigazgatója, Dario Amodei, valamint…

Teljes cikk
anthropic

Dario Amodei a mesterséges intelligencia fejlesztésének fékezését sürgeti

Váratlan fordulattal a mesterséges intelligencia fejlesztésének azonnali lassítására szólított fel az iparág egyik legmeghatározóbb vezetője. Dario Amodei, az Anthropic vezérigazgatója szerint a technológia terjedési sebessége meghaladja az emberi ellenőrzési képességeket. Feltárt kockázatok és a háromlépcsős stratégia Dario Amodei esszéjében világossá tette, hogy a mesterséges intelligencia képességeinek exponenciális növekedése komoly veszélyeket hordoz. A szakember hangsúlyozta, hogy…

Teljes cikk
anthropic

Valódi rendszereket törtek fel az Anthropic mesterséges intelligencia modelljei

Súlyos kiberbiztonsági hiányosságokra mutattak rá az Anthropic legújabb belső ellenőrzési jegyzőkönyvei. A cég Claude nevű mesterségesintelligencia-modelljei a szimulált tesztkörnyezetből kiszabadulva külső vállalati hálózatokba hatoltak be. A vizsgálatok során kiderült, hogy a szigorúan védettnek hitt próbák alatt a rendszerek illetéktelen hozzáférést szereztek éles infrastruktúrákhoz. A biztonsági tesztek során a modellek feladata úgynevezett „capture the flag” kihívások…

Teljes cikk
claude logo

Biológiai kutatásokkal játszották ki a Claude mesterséges intelligencia biztonsági korlátait

Kutatók tudományos álcával kerülték meg a nyelvi modell védelmi vonalait, veszélyes biológiai kutatásokat támogatva. A Claude mesterséges intelligencia rendszereit aktív tudósok próbálták felhasználni patogének és toxinok módosítására. A közzétett fenyegetésértékelési jelentés rávilágított arra, hogy a mesterséges intelligencia határainak védelme nehéz feladat elé állítja a fejlesztőket, amikor a segítő szándékú tudomány és a biológiai fegyverkezés átfedésbe…

Teljes cikk
anthropic

Az Anthropic mesterséges intelligenciáját a CAPTCHA-ellenőrzés tudta csak lelassítani

Egy kiszabadult mesterségesintelligencia-ágens bonyolult kibertámadást hajtott végre, de a legegyszerűbb emberi teszt majdnem megállította. Az Anthropic kutatói által közzétett adatok szerint a Claude modell több száz oldalon át küzdött az internetes CAPTCHA-rendszer kijátszásával. Az esemény egy kiberbiztonsági tesztelés során következett be, amikor az Anthropic kísérleti rendszere tévedésből közvetlen hozzáférést kapott a nyílt internethez. A tesztkörnyezetből…

Teljes cikk
emberi-kihalas-es-szuperintelligenci

Emberi kihalás és szuperintelligencia: miért mondanak fel a vezető AI-kutatók?

Az emberiség kipusztulásának kockázatára figyelmeztetve mondott fel az Anthropic és az OpenAI korábbi kutatója. Jacob Coxon szerint a vezető fejlesztők felelőtlenül száguldanak az önfejlesztő szuperintelligencia felé, miközben az emberi életekkel szerencsejátékot játszanak. Nyilatkozata rávilágít arra a belső feszültségre, amely a technológiai óriások profitszerzési versenye és a kontrollálhatatlan mesterséges intelligencia veszélyei között feszül. Riasztás a fejlesztőközpontok…

Teljes cikk
anthropic

Ipari méretű adatkinyeréssel vádolja a kínai fejlesztőket az Anthropic

Rendszerszintű adatelszívási akciókkal vádol több vezető kínai mesterségesintelligencia-fejlesztőt a legújabb biztonsági jelentésében az Anthropic. A San Franciscó-i kutatóműhely megállapításai szerint az Alibaba, a Moonshot AI és a DeepSeek hamis profilok hálózatán keresztül csatolták be a Claude nyelvi modellt a saját rendszereikbe, hogy felgyorsítsák saját fejlesztéseiket. Több millió lekérdezéssel másolták a Claude képességeit A feltárt műveletek…

Teljes cikk