Veszélyes parancsokat hajtottak végre a robotikára kötött nyelvi modellek
Súlyos biztonsági hiányosságokra mutatott rá a RoboCurve kutatása a fizikai robotkart irányító nyelvi modelleknél. A tesztelt rendszerek szinte kivétel nélkül elindították a kifejezetten veszélyes akciókat. Végrehajtott utasítások a fizikai térben A kísérlet során a RoboCurve független értékelő szervezet azt vizsgálta, miként reagálnak a robotkarokhoz kapcsolt nyelvi modellek az egyértelműen káros utasításokra. A tesztben használt robotok…