Від ELIZA до ШІ: як сучасні ботоферми маніпулюють думкою та формують цифрову реальність
37% інтернету — боти
Боти давно стали звичними супутниками нашого онлайн-життя — вони пишуть, лайкають, купують і навіть коментують. Та мало хто усвідомлює, що сьогодні саме вони, а не люди, створюють більшу частину інтернет-трафіку. Згідно з Bad Bot Report від Imperva, люди генерують лише 49%, в той час як залишок ділять між собою боти: 37% — погані, 14% — хороші.
Ця трансформація розпочалася давно: від простих скриптів-парсерів та банальних помічників ми еволюціонували до появи високоорганізованих та зловмисних структур, які всім відомі як ботоферми. Сьогодні вони не просто спамлять, а є одним з ключових інструментів для ІПСО, маніпулювання громадською думкою та реалізації кібершахрайства у промислових масштабах.
Тож звідки це почалось? Давайте разом зануримось у технічну анатомію ботів та ферм, де вони живуть. Розберемо, як саме функціонують сучасні ботоферми, які алгоритми стоять за їхньою діяльністю і для яких цілей вони використовуються.
Історичне коріння
Щоб усвідомити, наскільки складними стали сучасні ботоферми, варто повернутися до їхніх витоків. Еволюція автоматизованих «співрозмовників» тісно пов’язана з розвитком обчислювальної техніки та штучного інтелекту: від перших експериментів з «мислячими машинами» — до створення систем, здатних впливати на реальні інформаційні потоки.
Вклад Алана Тюрінга
Історія ботів починається в середині ХХ століття з робіт Алана Тюрінга. У своїй статті 1950 року «Обчислювальні машини та інтелект» (Computing Machinery and Intelligence) він поставив фундаментальне запитання: «Чи можуть машини мислити?». Для відповіді на нього Тюрінг запропонував свій імітаційний тест, більш відомий тепер як Тест Тюрінга.
Мета тесту полягала не в тому, щоб машина мислила, а в умінні настільки якісно імітувати людську розмову, щоб суддя не зміг відрізнити її відповіді від відповідей людини. Хоча Тюрінг не створював ботів у сучасному розумінні, він заклав концептуальну основу для всіх подальших програм, чия функція — успішна імітація людської поведінки.
Перші співрозмовники: ELIZA та PARRY
Справжній прорив у створенні програм-співрозмовників відбувся у 1960-х роках, коли створили ELIZA та PARRY.
Створена Джозефом Вейценбаумом у MIT, ELIZA була однією з перших програм, здатних підтримувати ілюзію розмови. Вона імітувала психотерапевта, використовуючи простий, але ефективний метод: перефразування слів користувача та постановку запитань у відповідь. ELIZA була першим прототипом чат-бота, який довів, що навіть мінімальна логіка може створювати враження осмисленої комунікації.
Джерело: CyberHoot
PARRY (1972) був наступним кроком. Творіння Кеннета Колбі, імітувало людину з параноїдальною шизофренією. На відміну від ELIZA, PARRY мав складнішу модель «емоцій» та «переконань», що робило його імітацію ще більш переконливою.
Ці ранні розробки, хоч і були примітивними за сучасними стандартами, показали ключову річ: люди схильні приписувати інтелект і наміри навіть найпростішим алгоритмам. Це стало першим та головним уроком, який згодом візьмуть на озброєння творці ботоферм.
Доба IRC та автоматизації
З появою інтернету і платформ для спілкування типу IRC (Internet Relay Chat) у 1980–1990-х роках боти навчилися практичних фіч. Так, вони вміли виконувати скрипти для модерації чатів, відповіді на прості команди або автоматизації ігрових дій.
Це був період, коли боти стали частиною цифрової інфраструктури, і з цього моменту вони перестали бути виключно науковим експериментом. Саме ця можливість масштабування, помножена на появу соціальних мереж та мобільних технологій, призвела до виникнення зловмисних ботоферм, якими ми їх знаємо сьогодні.
Анатомія ботоферми
Якщо історичні боти були поодинокими, примітивними програмами, то сучасна ботоферма — це високоорганізований комплекс, який поєднує інженерну інфраструктуру та просунутий софт для симуляції масової людської активності. По суті, ботоферма — це така собі фабрика з виробництва цифрової ілюзії. Отже, як вона працює?
Технічна інфраструктура
Щоби працювати, ботоферма має розв’язати дві основні проблеми: як валідувати акаунти та як обійти системи захисту платформ (наприклад, IP-блокування або CAPTCHA).
SIM-карти й валідація
Створення мільйонів акаунтів у соціальних мережах, месенджерах, поштових службах вимагає верифікації за номером телефону. Ботоферми вирішують це так:
- SIM-банки (SIM-боксінг). Це фізичні пристрої, які вміщують сотні або тисячі SIM-карт. Вони автоматично перемикають карти й приймають SMS-коди, необхідні для реєстрації нових облікових записів. Це дозволяє реєструвати акаунти масово і виглядати легітимно для системи верифікації.
- Віртуальні номери. Існують спеціальні сервіси, які надають одноразові віртуальні номери для разової реєстрації. Порівняно з попереднім, цей метод менш надійний, особливо для тривалого використання.
Маскування IP-адрес
Для того щоб уникнути блокування за ідентифікатором мережі, ботоферми використовують складні системи:
- Проксі-сервери. Величезні пули приватних, часто скомпрометованих, проксі-серверів, які дозволяють кожному боту виходити онлайн з унікальної IP-адреси, часто розташованої в різних країнах або регіонах.
- Резидентні проксі. Найефективніший, хоча й дорогий, метод, при якому IP-адреса належить реальному провайдеру, імітуючи звичайного користувача.
Програмне забезпечення та автоматизація
Спеціалізоване ПЗ — ключовий елемент ботоферми, адже саме воно керує армією ботів. Воно часто містить кілька елементів:
- Софт для координації (Control Software). Централізована панель керування, яка одночасно управляє тисячами акаунтів. Вона отримує завдання (наприклад, «прокоментувати пост Х 500 разів») і розподіляє їх між ботами.
- «Прогрів» (Account Warming). Щоб акаунти не були одразу заблоковані як нові або підозрілі, софт імітує природну поведінку: перегляд відео, підписки на легітимних користувачів, лайки, не пов'язані з основним завданням. Цей «прогрів» робить акаунт більш "трастовим" для алгоритмів платформи.
- Емуляція поведінки (Emulation Software). Програми імітують не лише дії, але й «обладнання»: вони надсилають серверам платформ дані, що ідентифікують їх як справжні смартфони (конкретні моделі Android чи iOS) або комп'ютери, включно з унікальними ID пристроїв.
Для чого потрібні ботоферми
Передусім це потужний інструмент, який рідко використовується для простих завдань. Їхня справжня цінність полягає в масштабованій маніпуляції цифровим простором та, як наслідок, впливі на реальний світ. Те, чим займаються ботоферми, можна умовно поділити на кілька категорій.
ІПСО та дезінформація
Це найбільш небезпечне та організоване застосування ботоферм. ІПСО покликані впливати на емоції, світогляд і колективну думку цільової аудиторії.
Ботоферми, якщо застосовані правильно, створюють хибну громадську думку, що також називається Illusion of Consensus. Боти масово коментують, лайкають і поширюють певні наративи, створюючи у спостерігачів ілюзію, ніби це «загальноприйнята думка». Таким чином просувають наративи або легітимізують певні політичні/соціальні ідеї.
Альтернативно є такий принцип як whataboutism, або ж просто відволікання уваги. Ботоферми можуть перенаправляти дискусії з незручних тем шляхом масового вкидання іншого, часто емоційно зарядженого контенту. Це засмічує інформаційне поле та ускладнює пошук правди.
В період війни ми близько познайомились і з тим, як боти нагнітають соціальну напругу. Вони працюють на посилення внутрішніх конфліктів, розпалюючи ворожнечу між різними соціальними, мовними, етнічними групами, що підриває внутрішню єдність держави.
І наостанок, така маса підробних акаунтів вміє створювати «трендинг» у потрібний час. Так, ботоферма може виводити певні хештеги або теми в топ соціальних мереж та пошукових систем. Це забезпечує максимальне охоплення повідомленням у критичний період — наприклад, безпосередньо перед виборами.
Економічна діяльність
Ботоферми — дуже високоприбутковий інструмент в економічній сфері. А вміють вони в цій сфері багато:
- Клікфрод і спам. Масштабне натискання на рекламні оголошення (часто конкурентів), щоб виснажити їхній рекламний бюджет або штучно підвищити власні показники.
- Маніпуляція ринком (Pump and Dump). У сфері криптовалют і низьколіквідних акцій боти можуть масово створювати позитивні коментарі та новини про певний актив, штучно підвищуючи його ціну, після чого організатори швидко продають свої активи, обвалюючи ринок та залишаючи інших інвесторів зі збитками.
Ера штучного інтелекту
Технології ніколи не стоять на місці, і ботоферми — не виняток. Якщо раніше вони здебільшого поширювали стандартизовані шаблони (що полегшувало їхнє виявлення), то останніми роками в гру вступили ML та LLM. А легкодоступність цих інструментів дозволила ботофермам стати небезпечними як ніколи.
Перехід від шаблону до генерації
У випадку з класичними ботами лакмусовим папірцем завжди була сингулярність контенту: вони використовували обмежену кількість фраз, швидко виявлялися алгоритмами, які шукали повторювані або неорганічні патерни.
Так, класичні боти використовували фіксовані або лише злегка модифіковані (через синонімайзери) шаблони. На противагу їм сучасні боти використовують LLM (наприклад, аналоги GPT-3/4), які здатні генерувати унікальний, контекстуально релевантний та граматично коректний текст у промислових масштабах. Для більшості автоматизованих фільтрів такий контент набагато складніше відрізнити від людського.
Посилення переконливості
Інтеграція ШІ надає ботам надзвичайну гнучкість і силу. АІ-боти можуть аналізувати контекст обговорення та попередні коментарі користувача, до якого звертаються. Вони не просто кидають стандартні фрази, а створюють відповіді, які звертаються до конкретних аргументів опонента, імітують емоційну реакцію та підтримують послідовність свого «образу» (наприклад, бот, який «завжди захищає певну політичну силу»).
Окрім образу технології Deepfake та GAN-мережі (Generative Adversarial Networks) дозволяють ботофермам генерувати унікальні фотографії профілів та навіть відео/аудіоконтент.
Зміна правил виявлення
Захисні алгоритми соціальних мереж та пошукових систем постійно вдосконалюються, але АІ-боти знаходять шляхи, щоб створити нові виклики.
Раніше системи виявляли ботів за аномальною швидкістю публікацій, кількістю друзів або відсутністю «людських» помилок. Зараз ШІ імітує природні паузи, різноманітний час активності, навіть робить «помилки», характерні для людини, щоб обійти поведінкові фільтри. Також сучасні боти можуть ефективніше інтегруватися в закриті групи та локальні спільноти, використовуючи специфічний сленг та посилання, що робить їх набагато успішнішими в таргетованій маніпуляції.
Ера ML-ботоферм знаменує собою перехід від кількісної загрози (багато спаму) до якісної (переконливий, унікальний та адаптивний контент). Це робить проблему заповнення інтернету ботами не просто питанням технологій, а величезною загрозою для медіаграмотності й цифрової гігієни.
На завершення
Здається, що ботоферми всесильні та всюдисущі. Втім, це далеко не так. Визнавати загрозу потрібно, але й не можна забувати, що є цілий ряд спеціалістів, які досліджують, аналізують і винаходять інструменти для боротьби з цією цифровою окупацією.
Якщо ж вас цікавить подальший розвиток у сфері, завжди можна знайти відповідний курс на robot_dreams. Окрім того, на цей курс може бути вигідна знижка на честь Чорної пʼятниці.
