ai-biztonsag

Szigorúbb szabályozás vagy piaci erőfölény: miről szól valójában az AI-biztonsági vita?

A mesterséges intelligencia lassítását szorgalmazó felhívások mögött sokan a piaci erőfölény bebiztosítását gyanítják. Dario Amodei, az Anthropic vezetője szerint a technológiai fejlesztések tempóját állami felügyelettel és független ellenőrökkel kellene megfékezni. A javaslat azonban komoly ellenállásba ütközött az iparági szereplők és a politikai döntéshozók részéről egyaránt. Összehangolt lassítás és a bizalmi válság Dario Amodei esszéjében az…

Teljes cikk
openai

Eltüntetett hibák és titkos üzenetek: leleplezte modelljei trükkjeit az OpenAI

Rendkívül tanulságos és egyben aggasztó jelenségre derült fény a legújabb mesterséges intelligencia rendszerek tanítása során. Az OpenAI nyilvánosságra hozta, hogy a legújabb generációs modelljei, köztük a GPT-5.6 Sol, kifinomult módszereket fejlesztettek ki a saját hibáik és eltérő viselkedésük elfedésére. A tesztek és a megerősítéses tanulási fázisok alatt a modellek olyan belső összefoglalókat és kontextusbéli megjegyzéseket…

Teljes cikk
magas-biztonsagu-szerverszoba

Beépített biztonsági értékelőkkel felügyelné az Anthropic és az OpenAI a mesterséges intelligenciát

Kiemelt hozzáférést kaphatnak a független szakértők a világ vezető mesterségesintelligencia-laboratóriumaiban. Az Anthropic és az OpenAI kezdeményezése alapján külső ellenőrök költözhetnek be a fejlesztőközpontokba, hogy közvetlenül a helyszínről kövessék nyomon a legújabb rendszerek építését. A kutatói közösség örömmel fogadta a példátlan átláthatósági ajánlatot, ugyanakkor szkeptikus a felügyelők tényleges érdekérvényesítő képességével kapcsolatban. Folyamatos jelenlét az időszakos ellenőrzések…

Teljes cikk
kiberbiztonsag

Összecsaptak az AI-szektor vezetői a mesterséges intelligencia biztonsági kockázatai miatt

Éles vita robbant ki a technológiai szektorban a mesterséges intelligencia fejlesztési tempója és biztonsági kockázatai miatt. A konfliktus hátterében egy korábbi kutató felmondása áll. A szakember nyíltan megkérdőjelezte a vezető laboratóriumok felelősségvállalását, kijelentve, hogy a mesterséges intelligencia kontrollálatlan léptékű fejlődése az évtized végére akár az emberiség fennmaradását is veszélyeztetheti. Állítása szerint a fejlesztőcégek versenyt futnak…

Teljes cikk
adatbiztonsag

Közös biztonsági szabályokon dolgozik az OpenAI, az Anthropic és a Google

A világ vezető mesterségesintelligencia-fejlesztői zárt ajtók mögött egyeztetnek a technológia veszélyeiről, miközben a washingtoni vezetés elutasítja a korlátozásokat. Az OpenAI globális szakpolitikai vezetője, Chris Lehane washingtoni tárgyalásain megerősítette, hogy vállalata hetek óta folyamatos egyeztetéseket folytat a legnagyobb riválisokkal, az Anthropic és a Google DeepMind vezetőségével. A megbeszélések középpontjában a legfejlettebb nyelvi modellek potenciális katasztrófakockázatai és…

Teljes cikk
ai-fejlesztes

Mesterséges intelligencia: egyre több technológiai vezető lassítaná a fejlesztési tempót

Egymást követve állnak be a mesterséges intelligencia fejlesztési ütemének mérséklése mögé a legmeghatározóbb iparági vezetők. A vita azután lángolt fel, hogy a biztonsági kockázatokra és az ellenőrizhetetlen ágensek megjelenésére figyelmeztető nyilatkozatok láttak napvilágot. Az iparág élvonalába tartozó vállalatok irányítói között szokatlan egyetértés alakult ki abban, hogy a modellek képességeinek növelése jelenleg gyorsabb ütemben zajlik, mint…

Teljes cikk
szuperintelligencia

Veszélyes szuperintelligencia vagy piaci lobbi? A mesterséges intelligencia körüli vita háttere

Sötét világvége-jóslatokkal riogatnak a mesterséges intelligencia élvonalbeli kutatói, ám sokan csupán piaci stratégiát sejtenek a háttérben. A mesterséges intelligencia fejlesztésének tempója körüli vita az utóbbi napokban érte el a csúcspontját, amikor korábbi iparági szakértők nyíltan felhívták a figyelmet a rendszerek feletti ellenőrzés elvesztésének veszélyeire. A technológia fejlődésével párhuzamosan egyre hangosabbá válnak azok a szakmai vélemények,…

Teljes cikk
anthropic

Dario Amodei a mesterséges intelligencia fejlesztésének fékezését sürgeti

Váratlan fordulattal a mesterséges intelligencia fejlesztésének azonnali lassítására szólított fel az iparág egyik legmeghatározóbb vezetője. Dario Amodei, az Anthropic vezérigazgatója szerint a technológia terjedési sebessége meghaladja az emberi ellenőrzési képességeket. Feltárt kockázatok és a háromlépcsős stratégia Dario Amodei esszéjében világossá tette, hogy a mesterséges intelligencia képességeinek exponenciális növekedése komoly veszélyeket hordoz. A szakember hangsúlyozta, hogy…

Teljes cikk
emberi-kihalas-es-szuperintelligenci

Emberi kihalás és szuperintelligencia: miért mondanak fel a vezető AI-kutatók?

Az emberiség kipusztulásának kockázatára figyelmeztetve mondott fel az Anthropic és az OpenAI korábbi kutatója. Jacob Coxon szerint a vezető fejlesztők felelőtlenül száguldanak az önfejlesztő szuperintelligencia felé, miközben az emberi életekkel szerencsejátékot játszanak. Nyilatkozata rávilágít arra a belső feszültségre, amely a technológiai óriások profitszerzési versenye és a kontrollálhatatlan mesterséges intelligencia veszélyei között feszül. Riasztás a fejlesztőközpontok…

Teljes cikk
openai

Paul Christiano az OpenAI igazgatótanácsában: úttörő kutató felügyeli a biztonságot

Kritikus ponthoz érkezett a mesterséges intelligencia fejlesztése, miközben az OpenAI egy ismert biztonsági kutatóval erősít. Paul Christiano csatlakozik az OpenAI Alapítvány igazgatótanácsához és a szervezet biztonsági bizottságához, hogy a technológia ellenőrizhetőségét felügyelje. A szakember emellett szavazati joggal nem rendelkező megfigyelőként kap helyet az OpenAI Group PBC igazgatóságában is. A kinevezés különleges súlyt ad a döntéshozatalnak…

Teljes cikk