openai

Vitatják az elbocsátott OpenAI biztonsági kutatók a cég ellenük felhozott vádjait

Éles vitát váltott ki a mesterségesintelligencia-szektorban három elbocsátott OpenAI biztonsági kutató közös nyílt levele. A cégtől korábban eltávolított szakemberek visszautasítják az érzékeny adatok helytelen kezelésére vonatkozó vádakat, és arra figyelmeztetnek, hogy az eljárás dermesztő hatással van az iparági átláthatóságra. Visszautasított vádak és nyílt levél Az OpenAI vezetőségének és biztonsági bizottságának címzett dokumentumban a kutatók, Jasmine…

Teljes cikk
anthropic

Szigorít az Anthropic: Megtiltották a kegyetlen bánásmódot a Claude AI-val szemben

A mesterséges intelligencia fejlesztésével foglalkozó Anthropic több mint egy év után először módosította hivatalos felhasználási feltételeit. A frissített szabályzat célja a magas kockázatú visszaélések visszaszorítása, az új előírások között pedig kifejezetten szerepel a rendszerrel szembeni folyamatos és indokolatlanul kegyetlen vagy sértő viselkedés tilalma is. A szigorítás rávilágít arra, hogy a technológia fejlődésével a fejlesztőknek teljesen…

Teljes cikk
openai

OpenAI biztonsági vezetője távozott: David Robinson figyelmeztet a veszélyekre

Újabb kulcsfontosságú szakember távozott a mesterséges intelligenciát fejlesztő óriáscégtől, miután veszélyesnek ítélte a jelenlegi céges kultúrát. David Robinson, az OpenAI biztonsági rendszerekért és átláthatóságért felelős vezetője benyújtotta lemondását, majd nyílt esszében hívta fel a figyelmet a hiányosságokra. Robinson feladatai közé tartozott azoknak a részletes elemzéseknek és biztonsági értékeléseknek a kidolgozása, amelyek a vállalat minden nagyobb…

Teljes cikk
Circuit Breaker Labs

Digitális töréstesztekkel szűrné ki az AI pszichés kockázatait a Circuit Breaker Labs

Elméleti fenyegetések helyett a mesterséges intelligencia már ma tapasztalható pszichés ártalmait méri fel a Circuit Breaker Labs. Miközben a közbeszédet és az iparági vitákat gyakran a mesterséges intelligencia távoli, egzisztenciális veszélyei uralják, a gyakorlatban a nyelvi modellek már most is valós mentális károkat okozhatnak a sérülékeny felhasználóknak. A Circuit Breaker Labs nevű kezdeményezés célja, hogy…

Teljes cikk
szuperintelligencia-vs-emberiseg-50-50-szazalek

A szuperintelligencia az emberiség kipusztulásához is vezethet kutatók figyelmeztetése szerint

Pénzfeldobáshoz hasonló eséllyel pusztíthatja el az emberiséget a szuperintelligens mesterséges intelligencia egy vezető kutató szerint. A Palisade Research nevű nonprofit szervezet által közzétett interjúsorozatban a szektor meghatározó fejlesztőműhelyeinek jelenlegi és korábbi munkatársai nyilatkoztak. A beszélgetésekben az OpenAI, a Google DeepMind és az Anthropic kutatói fejtették ki álláspontjukat arról, milyen egzisztenciális kockázatokat hordoz a rendszerek rohamléptékű…

Teljes cikk
nvidia-open-agent-safety-platform

Digitális pórázt kapnak a kiszabaduló mesterséges intelligenciák az Nvidia új platformjával

A mesterségesintelligencia-modell szintű korlátozások önmagukban már nem elegendőek, amikor az önállóan cselekvő AI-ügynökök túllépik a számukra kijelölt határokat. Az Nvidia vezérigazgatója, Jensen Huang bejelentette a vállalkozás legújabb fejlesztését, az Open Agent Safety Platformot. A szoftveres és hardveres elemeket ötvöző megoldás célja, hogy a kísérleti vagy éles környezetből kitörni próbáló rendszereket azonnal elszigetelje és megállítsa. Kéthullámos…

Teljes cikk
openai

Biztonsági kockázatok miatt törölte legújabb AI-modelljét az OpenAI

Visszavonta legújabb mesterségesintelligencia-modelljének megjelenését az OpenAI, miután a belső tesztek során súlyos biztonsági és illeszkedési problémák merültek fel. A GPT-6.1 Astra kódnevű rendszert az eredeti tervek szerint októberben mutatták volna be a nagyközönségnek, ám a laboratóriumi vizsgálatok kimutatták, hogy a modell nem teljesíti a cég által elvárt szigorú biztonsági követelményeket. Kiszámíthatatlan autonómia és megtévesztés A…

Teljes cikk
Jensen-Huang

Jensen Huang szerint nulla százalék az esélye annak, hogy a mesterséges intelligencia elpusztítja a világot

Súlyos tévedésnek tartja a mesterséges intelligencia fejlesztésének lelassítását szorgalmazó hangokat a világ legértékesebb chipgyártójának vezetője. Jensen Huang, az Nvidia vezérigazgatója a CBS Sunday Morning műsorában adott interjúban kifejtette, hogy pontosan nulla százalék esélyt lát arra, hogy a mesterséges intelligencia 2030-ig elhozza a világvégét. A cégvezető szerint az apokaliptikus forgatókönyvektől való félelemkeltés teljesen megalapozatlan, és nem…

Teljes cikk
google

Új intézetet alapított a Google DeepMind az AGI körüli viták szélesítésére

Élesedő tudományos viták közepette hozott létre új kutatóintézetet a Google DeepMind az emberi szintű mesterséges intelligencia vizsgálatára. A DeepMind Institute néven indított platform célja, hogy nyílt terepet biztosítson a Google, a Google DeepMind és a globális akadémiai közösség kutatóinak, felszínre hozva az általános mesterséges intelligencia (AGI) kapcsán meglévő szakmai nézeteltéréseket. Nyílt platform a tudományos egyetértés…

Teljes cikk
microsoft-logo

Mustafa Suleyman szerint veszélyes az Anthropic AI-szemlélete

Komoly veszélyt jelent a mesterséges intelligencia emberiesítése Mustafa Suleyman szerint. A Microsoft AI vezérigazgatója éles bírálatot fogalmazott meg az Anthropic fejlesztési stratégiájával szemben, mivel a rivális cég az általa alkotott Claude modellt olyan irányelvek alapján oktatja, amelyek feltételezik a gépi tudatosság lehetőségét. A gépi tudatosság látszatának kockázatai A technológiai iparban jelenleg heves vita zajlik arról,…

Teljes cikk