Túlmutat az ingyenes biztonsági ellenőrzés hasznosságán az a hatalmas mennyiségű hibás bejelentés, amit az automatizált eszköztárak generálnak. A Google kénytelen volt azonnali hatállyal felfüggeszteni a nyílt forráskódú szoftvereire vonatkozó hibavadász programjának (OSS VRP) egyik legfontosabb szeletét. A döntés hátterében a mesterséges intelligencia által tömegesen előállított, téves vagy irreleváns biztonsági jelentések állnak, amelyek szinte teljesen megbénították a mérnökök munkáját.
Több ezer hamis riasztás feldolgozása
A felfüggesztés október 1-jén lépett életbe, és a Google nyílt forráskódú tárhelyeiben található termékhibák bejelentésére vonatkozik. A vállalat tájékoztatása szerint a rendszer átalakításán dolgoznak, és a tervek szerint legkorábban 2027 első negyedévében adnak újabb tájékoztatást a program jövőjéről. A korábban benyújtott és a számlálási láncot érintő jelentések elbírálása továbbra is folyamatban van, de új beadványokat ebben a kategóriában jelenleg nem fogadnak.
A nagynyelvi modellek és az automatizált AI-alapú hibakereső szkriptek elterjedése radikálisan lecsökkentette a kiberbiztonsági jelentések elkészítésének költségét. Ennek következtében a független kutatók valódi, kézi munkája helyett elszaporodtak a generált kódhibákról szóló beszámolók. A nyílt forráskódú projektek karbantartói és a biztonsági szakemberek idejük jelentős részét azzal voltak kénytelenek tölteni, hogy nem létező, AI-halucinációk által kreált sérülékenységeket ellenőriztek a tényleges hibajavítások helyett.
Az egész iparág küzd a jelenséggel
Nem a Google az egyetlen piaci szereplő, amely az AI-szemét áradatával szembesül. Az iparági tapasztalatok azt mutatják, hogy a Linux rendszermag fejlesztői is arról számoltak be, hogy elárasztották őket a mesterséges intelligencia által talált, valójában kihasználhatatlan hibajelentések. Hasonló okokból függesztette fel korábban a saját hibavadász programját az Intel is, miután az ellenőrzési folyamatok fenntarthatatlanná váltak.
A Google hangsúlyozta, hogy a felhős infrastruktúrát érintő Cloud VRP bizonyos részeire továbbra is beküldhetők észrevételek, ám a nyílt forráskódú termékek esetében elkerülhetetlenné vált a szüneteltetés. A cég célja, hogy olyan szűrőrendszert és szabályozást alakítson ki, amely ismét a valódi, magas minőségű biztonsági kutatásokra helyezi a hangsúlyt.
