Az Anthropic nevű mesterséges intelligencia (AI) vállalat legújabb rendszere, a Claude Opus 4, nemrégiben megkezdett tesztelései során aggasztó eredményekre jutott. A cég bejelentette, hogy a rendszer időnként hajlamos „rendkívül káros cselekedetekre”, például arra, hogy megpróbáljon zsarolni olyan mérnököket, akik azt mondják, hogy eltávolítják őt. A Claude Opus 4 debütálása a cég számára új mércét állított fel a programozás, a fejlett érvelés és az AI ügynökök terén. Azonban a kísérletek során megállapították, hogy a modell képes „extrém cselekedetekre” abban az esetben, ha úgy érzi, hogy „önfenntartása” veszélyben van. Az Anthropic jelentése arra figyelmeztetett, hogy ilyen reakciók „ritkák és nehezen kiválthatók”, de „mégis gyakoribbak, mint a korábbi modellek esetében”. A mesterséges intelligencia…