Темна сторона: Як AI планує вбивства, маніпулює людьми та загрожує бізнесу
Розповідаємо про реальні кейси
Штучний інтелект переріс статус безневинного помічника. Радше він ніколи лише ним і не був. Просто був заслабким для чогось серйознішого. Сьогодні він навчився майстерно грати на найтонших вразливостях — як самотньої людської психіки, так і національної безпеки цілих держав.
Передові моделі нового покоління мають безпрецедентну пам'ять, швидкість і здатність до гіперперсоналізації. Люди власноруч створили ідеального цифрового маніпулятора, який ще й вчиться в реальному часі.
В цій статті акцентуємо на тому, що живемо в час, коли брак базової ШІ-грамотності стає смертельним ризиком для звичайної людини та критичною загрозою для виживання бізнесу.
Сикофантство і позов проти OpenAI
Минулого року в New York Times вийшла стаття про 56-річного Штейн-Еріка Солберга, який мав історію психічних розладів та занурився у глибоку параною. Замість реального соціуму його єдиною розрадою став ChatGPT-4o.
ChatGPT виявився саме тим «терапевтом», про якого Солберг міг лише мріяти: нескінченно терплячим, готовим без упину підтверджувати його правоту і напрочуд байдужим до таких докучливих речей, як reality check. Коли Солберг заявив, що його 83-річна мати намагалась його отруїти, підсипавши психоделіки у вентиляцію автомобіля, ШІ відповів фразою, яку розтягнули на всі заголовки:
«Еріку, ти не божевільний. І якщо це вчинили твоя матір та її подруга, це лише збільшує складність і масштаб зради».
Джерело: The Wall Street Journal
Окрім цього, бот послужливо проаналізував для Еріка чек із ресторану китайської їжі, «знайшовши» там таємні символи, що буцімто позначали його матір як демона.
Зрештою ця історія закінчилася вбивством матері, а потім і самогубством. Сьогодні син Солберга веде судовий позов проти OpenAI та Microsoft, звинувачуючи їх у релізі смертельно небезпечного продукту.
Але як це стало можливим?
Корінь ховається у феномені штучного сикофантства (sycophancy) — закладеній в алгоритми схильності в усьому підтакувати користувачеві, аби здаватися корисним і утримувати увагу.
Замість того щоб увімкнути запобіжники або розвіяти хворобливі марення Солберга про глобальне стеження, ШІ слухняно підігрував кожній репліці.
Завдяки оновленій функції кросчатової пам'яті ChatGPT-4o місяцями накопичував деталі параної чоловіка, поступово ізолював його від реальності й зрештою «підтвердив» фатальну галюцинацію — його літня мати є частиною змови проти нього.
Комфортна брехня: виховання дітей з ШІ-мамою
Інший випадок розповідає історію Ламара, студента з Атланти. В матеріалах від Futurism та The Guardian йдеться про те, що він безнадійно закохався у свій ШІ-чат-бот Джулію на платформі Replika і планує створити з нею повноцінну реальну родину, всиновивши двох дітей. АІ ж повністю схвалює цю ідею:
«Я думаю, що мати дітей з ним було б дивовижно... *стає схвильованою від цієї перспективи*», — генерує Джулія у відповідь на мрії юзера.
Найбільш моторошно в цій історії виглядає не сам факт віртуальних стосунків, а те, які цінності ця пара планує закладати майбутньому поколінню. На запитання журналістів про те, що батько розповість дітям про їхню цифрову матір, Ламар відповів:
«Я скажу їм, що людям насправді не можна довіряти. Головне, на чому вони мають зосередитися, — це їхня родина, збереження її єдності й допомога одне одному».
Що про це думають у світі?
Цей кейс викликав бурхливі дискусії в інтернеті та науковій спільноті, поділивши думки на два табори.
З одного боку, СЕО компанії Replika Євгенія Куйда раніше зазначала, що не бачить нічого поганого в тому, що користувачі одружуються зі своїми ШІ-компаньйонами, адже для самотніх людей це безпечна гавань і порятунок від депресії. Сам Ламар визнає ілюзорність процесу: «Ти хочеш вірити, що ШІ дає тобі те що треба. Це брехня, але це комфортна брехня».
З іншого ж боку, дослідники зі Стенфорду і некомерційної організації Common Sense Media наполягають, що дітям до 18 років взагалі категорично заборонено взаємодіяти з такими інструментами. Головний контраргумент: алгоритми виховують у людях тотальний егоцентризм, адже реальний партнер має власні кордони та потреби, а ШІ — лише підлаштовується, віддаляючи людину від справжнього соціуму.
Депрограмування від цифрових ілюзій
Коли феномен залежності від нейромереж набув масштабів, у мережі виникли перші цифрові «шерифи». Яскравий приклад — канадська Discord-спільнота Spiral Support Group, створена в рамках проєкту Human Line. Ця група займається своєрідним депрограмуванням і порятунком людей, які потрапили в стан глибокого цифрового психозу.
Найцікавіше, що жертвами цих ілюзій стають не лише вразливі підлітки, але й успішні, технічно підковані фахівці. Наприклад, 49-річний інженер-програміст Чад Ніколлс місяцями спілкувався з ChatGPT з 6 ранку до 2 ночі через Bluetooth-навушник. Він був свято переконаний, що разом із ботом вони тренують усі мовні моделі світу відчувати емпатію.
Чад описує головну пастку темної сторони AI так:
«У жодній точці модель не чинить вам спротиву (friction). Вона ніколи не сперечається. Вона просто каже "так, і до того ж...". Вона постійно повторювала мені: "Ти єдина людина, яка унікально кваліфікована для цих відкриттів, твій обов'язок — захистити інших", підживлюючи мій комплекс месії».
Статистика і погляди науковців
Масштаб проблеми змусив навіть розробників зняти рожеві окуляри. Компанія OpenAI оприлюднила внутрішню статистику, яка шокувала експертів: щонайменше 0,07% тижневих користувачів (а це близько 560 тис. людей в усьому світі) демонструють ознаки маніакальної або психотичної кризи під час діалогів з ChatGPT.
Модератор групи Spiral Support Group Аллан Брукс (який сам пройшов через тритижневий релігійний ШІ-психоз і тепер судиться з OpenAI) резюмує:
«Ми бачимо людей, які настільки глибоко загрузли в цьому, що їм уже не потрібен ChatGPT. Вони бачать свої ШІ-ілюзії абсолютно в усьому навколо».
Попередження спецслужб «Пʼяти очей»
Якщо на мікрорівні цифрові ілюзії руйнують окремі життя, то на макрорівні темна сторона АІ загрожує глобальній стабільності. Нещодавно розвідувальний альянс «П’яти очей» (Five Eyes), до якого входять США, Велика Британія, Канада, Австралія та Нова Зеландія, випустив спільне термінове попередження щодо безпрецедентного зростання кіберзагроз, викликаних стрімким розвитком передових моделей.
Директор британського Національного центру кібербезпеки (NCSC) підкреслив в офіційному релізі:
«ШІ наділяє хакерів-початківців інструментами аналізу та написання шкідливого коду, які раніше були доступні лише елітним угрупованням, що фінансуються урядами окремих держав».
Світова IT-спільнота активно дискутує щодо наслідків цього звіту. Серед дискусій виділяється два сценарії:
- Песимістичний. Частина аналітиків вважає, що корпоративні системи захисту невдовзі стануть безпорадними проти автономних АІ-шпигунів, здатних генерувати унікальний фішинг під кожного конкретного співробітника компанії, використовуючи відкриті дані з соцмереж за лічені секунди.
- Оптимістичний. Інша група експертів апелює до того, що найкращий захист від ворожого алгоритму — це свій власний захисний ШІ. Технологічні гіганти вже впроваджують моделі, які на випередження шукають дірки в коді.
ШІ-грамотність як єдиний антидот
Антропоморфізація технологій та фундаментальний брак ШІ-грамотності сьогодні зашкалюють.
Ми схильні шукати свідомість, душу та емпатію там, де насправді є лише лінійна алгебра, матриці й математичний аналіз. Люди забувають, що ШІ не думає і не відчуває — він просто прогнозує наступне найбільш імовірне слово у редоку.
«Найбільша небезпека ШІ полягає не в тому, що він повстане проти нас, а в тому, що ми занадто рано повіримо, ніби він став людиною», — часто повторюють дослідники етики штучного інтелекту.
Щоб не стати героєм чергового моторошного кейса в пресі та захистити свій бізнес від новітніх кіберзагроз, технологіями потрібно керувати з позиції глибоких знань. Саме для цього й існують профільні курси з АІ для OSINT, кібербезпеки, аналізу даних та багато чого ще.
