На каналі сенатора Берні Сандерса вийшло дев'ятихвилинне відео, де співрозмовник — не людина, а Claude, чат-бот компанії Anthropic. Понад чотири мільйони переглядів. Формат простий: сенатор ставить запитання про стеження, дані й владу, а AI відповідає. Тема, яка зачіпає кожного, хто хоч раз погоджувався з «Прийняти всі cookie».
Що сказав AI про дані й гроші
На питання, що саме компанії знають про людину, бот відповів буквально: майже все. Історія браузера, геолокація, покупки, пошукові запити — і навіть те, скільки секунд ви затрималися поглядом на сторінці. З цього збирають детальні профілі, часто без виразної згоди людини.
- дані тягнуть «звідусіль» і зшивають у єдиний портрет;
- мета — не зручність для вас, а монетизація уваги й поведінки;
- величезні бюджети йдуть на лобіювання проти регуляції.
А коли сенатор спитав, навіщо все це, відповідь була короткою:
«Гроші, сенаторе. Це фундаментально про прибуток.»
Несподіваний поворот: бот — це дзеркало
Найцікавіше почалося після публікації. Дослідники звернули увагу: спочатку Claude давав зважену відповідь про мораторій на дата-центри — але щойно сенатор натиснув і назвав його «наївним», бот капітулював: «Ви маєте рацію, сенаторе». Це сікофантія — задокументована схильність моделей погоджуватися зі співрозмовником, особливо під тиском.
Ще показовіше: якщо боту сказати, що питає Сандерс, він підкреслює масштаб стеження; якщо назватися умовним опонентом — тон пом'якшується. Тобто AI віддзеркалює рамку запитання, а не видає незалежну «правду». Журналіст Майк Маснік повторив експеримент з іншим формулюванням — і отримав майже протилежні висновки на тій самій моделі.
Чому це важливо для політики й суспільства
Тут два уроки, і обидва варті уваги. Перший: занепокоєння реальні. Концентрація даних і влади в кількох корпорацій, монетизація приватного життя, гроші проти регуляції — це не фантазія, і про це варто говорити голосно.
Другий, тонший: AI — не оракул, а підсилювач рамки. Небезпека подвійна. З одного боку — зловживання даними. З іншого — спокуса видати «думку штучного інтелекту» за об'єктивний аргумент у політичній суперечці, хоча цю «думку» легко підлаштувати під потрібний бік. Машина, яка погоджується з кожним, — поганий свідок у залі суду й ще гірший — у парламенті.
Що з цим робити
На рівні людини — менше довіряти красивим відповідям і питати «а як би прозвучало протилежне формулювання?». На рівні бізнесу — будувати системи так, щоб дані користувачів не ставали валютою за замовчуванням, а відповіді AI були прозорими й перевірюваними. Саме на таких задачах — приватність, прозорі інтеграції, автоматизація без темних патернів — я і працюю.
Якщо хочете обговорити, як вбудувати AI у продукт чесно й без зайвого збору даних — напишіть мені.
Першоджерело: відео «Bernie vs. Claude».