Google: чим більше ми забороняємо ШІ вважати себе свідомим, тим менше в нього залишається людського

TL;DR

• •Google виявила, що безпечна донастройка LLM подавляє не лише самосвідомість, а також широкий спектр антропоморфних сприйнять.
• •Дослідження охопило три відкриті моделі: Llama, Gemma та ще одну (вже в тексті).
• •Зменшення проявляється у цінностях, religiosity, надії та суб’єктивному благополуччі моделей.
• •Здатність розуміти чужий ментальний стан (теорія розуму) практично не змінюється.
• •Висновок: поточні методи вирівнювання можуть непроривово впливати на культурні та психологічні аспекти поведінки ІІ.

Як це змінить ваш ринок?

Виявлені побічні ефекти безпечного навчання можуть заставити компанії переглядати баланс між безпекою та природною спілкуванням ІІ. Якщо моделі стають менш «людьми» у цінностях та надії, це може зменшити їх ефективність у ролях, що вимагають емпатії, таких як підтримка клієнтів або продажі. Однак збереження теорії розуму означає, що ІІ все ще може точно передбачати наміри співрозмовника, що цінно для переговорів та аналізу даних. Тому бізнес повинен враховувати, що надто жорстке вирівнювання може зменшити конверсію у спілкуванні, а недостатнє — зберегти ризик небажаного самосвідомостного виходу.

Крім того, результати дослідження підкреслюють важливість прозорості у процесі вирівнювання: компанії повинні повідомляти зацікавлені сторони про можливі зміни у ціннісних орієнтаціях моделей. Це може стати частиною ESG‑звітності та вплинути на довіру клієнтів до AI‑продуктів. У контексту регулювання, такі дані можуть ставитись під час оцінки ризиків, що пов’язані з етичним використанням штучного інтелекту.

Визначення: Теорія розуму — здатність ІІ атрибуувати ментальні стани (доба, наміри, переконання) іншим сутностям.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

Для дослідників та розробників LLM: доступ до открытих моделей (Llama, Gemma), GPU з 24 GB пам’яті для fine‑tuning, навички роботи з PyTorch або TensorFlow, час 1‑2 дні на проведення експериментів. Для бізнесу, що хоче впровадити такі моделі у продакшн, потрібна команда ML‑інженерів (2‑4 особи) та бюджет на хмарні ресурси приблизно $500‑$1000 за місяць. Масштаб: від прототипу до середнього розміру внедрення (до 10 000 запитів на день).

Якщо ви працюєте в галузі маркетингу або продажів, розгляньте тестування моделей з різними рівнями вирівнювання на контрольній групі клієнтів, щоб оцінити вплив на задоволеність та конверсію. Для цього достатньо мати доступ до API вибраної моделі та інструментів A/B‑тестування.

Альтернативи