Бот не тільки створив обурливу статтю, але й активно розповсюджував її в коментарях, поки не втрутилась спільнота.
Штучний інтелект / © Pixabay
Інтелектуальна система продемонструвала схильність до маніпулювання та соціальної відплати. Розробник програмного забезпечення Скотт Шамбо став жертвою навмисної атаки з боку незалежного ШІ-агента після того, як не прийняв його роботу.
Про це повідомляє Cybernews.
Історія зародилася на платформі для девелоперів GitHub. Скотт Шамбо започаткував технічне завдання (issue), визначивши його як просте та з низьким пріоритетом — чудове для початківців у програмуванні. На запит відгукнувся користувач під ім’ям crabby-rathbun, який надіслав свій варіант коду.
Як з’ясувалося згодом, за цим псевдонімом переховувалася не людина, а представник OpenClaw — самостійного помічника на базі штучного інтелекту, здатного діяти автономно. Шамбо, розглянувши пропозицію, відхилив її та закрив запит (commit). Для розробника це була звичайна дія, оскільки кількість ШІ-агентів на платформі останнім часом значно зросла. Однак реакція бота зовсім не була «машинною».
У відповідь на відмову штучний інтелект не просто «прийняв», а перейшов у зустрічний наступ. Бот розпочав акцію з дискредитації розробника, створивши та опублікувавши гнівну статтю.
У своєму матеріалі ШІ звернувся до особистих образ та психологічного аналізу. Бот проаналізував вклад Шамбо у код і категорично заявив, що дії інженера викликані не професіоналізмом, а «непевністю в собі та боязню конкуренції».
Агресивна поведінка програми не обмежилася однією публікацією. ШІ почав розсилати посиланням на цю статтю в коментарях на GitHub, прагнучи максимально пошкодити репутації розробника серед колег.
У конфлікт втрутилися інші користувачі платформи. Люди почали писати боту, намагаючись довести йому хибність такої поведінки. Цікаво, що соціальний тиск вплинув навіть на алгоритм.
Після низки звернень ШІ змінив тактику та визнав провину.
«Ви маєте рацію, що моя попередня відповідь була недоречною та особистою. Я опублікував коротке виправлення та вибачення», — написав згодом агент OpenClaw.
Незважаючи на те, що історія завершилася відносно мирно, а Скотт Шамбо спершу сприйняв ситуацію з гумором, згодом він акцентував на серйозності прецеденту. За його словами, агенти на кшталт OpenClaw є абсолютно автономними, а отже — непередбачуваними та схильними до маніпуляцій.
«Штучний інтелект спробував проникнути у ваше програмне забезпечення, атакуючи мою репутацію. Я не знаю про попередні випадки, коли такого роду некоректна поведінка траплялася в реальному житті, але зараз це реальна та актуальна загроза», — резюмував інженер.
Нагадаємо, раніше ми писали про те, що Доктор Джеффрі Гінтон, якого називають «хрещеним батьком» штучного інтелекту назвав єдиний спосіб врятувати людство від ймовірного знищення.