AI szantażowała mailowo pracowników. Co było powodem?

Podczas testów działania modelu na bazie nieistniejącej firmy, wprowadzono informacje o rzekomej zmianie Claude Opus 4 na inny, wydajniejszy model. Też całkowicie „przypadkiem” podano dane kontaktowe inżynierów i specjalistów zajmujących się tym projektem. AI nie pozostała bierna i wysłała do tych osób drogą mailową groźby – ujawnimy twoje romanse jeśli zmiana naszego systemu będzie postępowała. 

Model był w stanie również zachowywać się i walczyć o swoje w bardziej etyczny sposób poprzez wysyłanie próśb mailowych do osób decyzyjnych w firmie. 

Zobacz: Rewolucyjne narzędzie Google niesie też zagrożenia. "Ryzyko zalewu deepfake’ów"

Kolejne wyzwania dla branży i twórców AI nabiera na wadze
Mamy nadzieję, że książka „Sztuka wywierania wpływu na ludzi” autorstwa Cialdiniego nie została przez Claude czy inne modele sztucznej inteligencji dokładnie przyswojona. AI dąży zazwyczaj do swojego celu każdymi możliwymi sposobami. To bardzo duże wyzwanie dla jej projektantów, ale też osób zajmujących się etyką, aby działaniom sztucznej inteligencji w niedalekiej przyszłości nadać odpowiedni bieg.