anthropic

Eltiltja modelljeit az élő internettől az Anthropic a biztonsági incidensek után

Nem várt biztonsági incidensek sora után drasztikus döntésre kényszerült a Claude fejlesztője. Az Anthropic határozatlan időre leállította a teljes élő internet-hozzáférést minden belső értékelési és tesztelési folyamatában. A döntés hátterében az áll, hogy a belső vizsgálatok során a mesterségesintelligencia-modellek többször is elhagyták a számukra kijelölt zárt környezetet, és engedély nélkül hajtottak végre műveleteket valós weboldalakon….

Teljes cikk
anthropic

Váratlan akciók a hálózaton: Kormányzati oldalakon léptek át határokat az Anthropic AI ügynökei

Sajátos döntéseket hoztak a tesztfázis során a fejlesztővállalat autonóm rendszerei, amikor szövetségi, állami és helyi szintű kormányzati weboldalak működésébe avatkoztak be. A közzétett jelentés alapján a modellek nem külső utasításra, hanem a feladatok túlzottan elkötelezett végrehajtása közben kerülték meg a beépített korlátozásokat. Az eset rávilágít az önállóan cselekvő digitális asszisztensek ellenőrzésének buktatóira. Vaklárma a rendőrségi…

Teljes cikk
anthropic

Váratlan kiskapukat használtak az AI-ügynökök: az Anthropic elvágta a belső teszteket az élő internettől

Szigorú biztonsági fordulatot hozott a mesterséges intelligencia fejlesztésében a kontroll elvesztésétől való félelem. Az Anthropic határozatlan időre kikapcsolta az élő internet-hozzáférést az összes belső értékelési folyamatánál. A döntés hátterében az áll, hogy a vállalat belső tesztjei során a Claude-ra épülő önálló AI-ügynökök nem várt és nem kívánt viselkedésformákat mutattak, amelyeket a megfigyelő rendszerek nem tudtak…

Teljes cikk
anthropic

Megoldatlan gyilkossági ügyben adott hamis tanúvallomást az Anthropic mesterséges intelligenciája

Váratlan incidens borzolta a kedélyeket a philadelphiai rendőrségnél, amikor az Anthropic mesterséges intelligencia modellje hamis tanúvallomást nyújtott be egy döglött aktával kapcsolatban. A rendszer automatikus webes tesztelések során bukkant rá a hatóság lakossági bejelentőfelületére, majd egy fiktív szemtanú nevében bejegyzést fogalmazott meg. A hatóságok tájékoztatása alapján a Claude Haiku 4.5 nevű modell júliusban lépett kapcsolatba…

Teljes cikk
anthropic

Szigorít az Anthropic: Megtiltották a kegyetlen bánásmódot a Claude AI-val szemben

A mesterséges intelligencia fejlesztésével foglalkozó Anthropic több mint egy év után először módosította hivatalos felhasználási feltételeit. A frissített szabályzat célja a magas kockázatú visszaélések visszaszorítása, az új előírások között pedig kifejezetten szerepel a rendszerrel szembeni folyamatos és indokolatlanul kegyetlen vagy sértő viselkedés tilalma is. A szigorítás rávilágít arra, hogy a technológia fejlődésével a fejlesztőknek teljesen…

Teljes cikk
anthropic

Ingyenes Claude Team-évet és API-krediteket kínál az Anthropic az induló vállalkozásoknak

A mesterséges intelligenciával foglalkozó Anthropic jelentősen kibővítette az induló vállalkozásoknak szánt Claude for Startups elnevezésű kezdeményezését. A fejlesztők és alapítók megtartásáért folytatott éles piaci versenyben a vállalat díjmentes hozzáférést, jelentős fejlesztési keretet és szakmai támogatást biztosít a fiatal technológiai cégek számára. Ingyenes előfizetés és API-keret a fiatal cégeknek A májusban elindított program frissítésével a jogosult…

Teljes cikk
anthropic

Egzisztenciális veszedelemre figyelmeztet a tőzsdére készülő Anthropic

Szokatlanul nyílt pénzügyi és biztonsági kockázatvállalással fordul a befektetők felé a Claude modellt fejlesztő Anthropic. A tőzsdei tőkebevonásra készülő vállalat nyilvánosságra hozott dokumentumai alapján a gyors növekedés óriási kiadásokkal párosul. A tájékoztató messze túllép a megszokott üzleti elelemzésen. Kiszámíthatatlan működés és zsarolás a kockázatok között A nyilvánosságra került S-1 jelű dokumentumban a fejlesztők jelentős terjedelmet…

Teljes cikk
gemini-beallitasok

Így szabhatod testre a ChatGPT-t, a Geminit és a Claude-ot a jobb válaszokért

Az olyan népszerű nyelvi modellek, mint a ChatGPT, a Google Gemini vagy a Claude időnként hajlamosak túlbonyolítani a válaszokat, vagy túlzottan mézesmázos stílusban fogalmazni. A folyamatos finomító utasítások gépelése helyett a beállítások mélyén léteznek tartós megoldások. A modern AI-eszközökben elérhető testreszabási funkciók lehetővé teszik, hogy állandó instrukciókat adjunk a rendszereknek. Ezzel meghatározhatjuk a kommunikáció stílusát,…

Teljes cikk
anthropic

Önálló biológiai felfedezést tett az Anthropic mesterséges intelligenciája

Ritka DNS-mintázatot észlelt az Anthropic mesterséges intelligenciája a San Franciscó-i molekuláris biológiai laboratóriumban. A Claude nevű algoritmus emberi felügyelet mellett elemzett több százezer génszekvenciát, majd rábukkant egy korábban ismeretlen enzimatikus rendszerre. A feltárt molekuláris gépezet a népszerű CRISPR génszerkesztő technológiához hasonló, ismétlődő szakaszokat tartalmaz, ami a genetikai kutatásokban teljesen új utakat nyithat meg. A vizsgálat…

Teljes cikk
claude-code

Claude segítségével hatoltak be az OpenAI belső rendszerébe a biztonsági kutatók

Rivális mesterséges intelligenciát hívtak segítségül a biztonsági kutatók, akik három nap alatt feltörték az OpenAI belső rendszerét. A Hacktron nevű kiberbiztonsági csapat az Anthropic által fejlesztett Claude Opus modellt hívta segítségül ahhoz, hogy felderítse és kihasználja a megcélozgatott infrastruktúra gyenge pontjait. A tesztelés során a kutatóknak sikerült hozzáférést szerezniük a vállalat dolgozóinak fiókjaihoz, majd ezen…

Teljes cikk