AI kínzókamra néven terjedő GitHub-projekt váltott ki heves vitát a nyelvi modellekről
Viharos online felháborodást váltott ki egy GitHub-projekt, amely szimulált fájdalomjelekkel tesztelte a nyelvi modelleket. Az „AI kínzókamra” nevű kísérlet során a fejlesztő belső aktivációs vektorok módosításával próbált negatív állapotokat előidézni a nyelvi modellekben, ami drámai, szenvedést imitáló szöveges válaszokat eredményezett. Tudományos kísérletből született az AI kínzókamra kódja A projekt alapját egy korábbi kutatás adta, amely…