Минулий тиждень виявився напруженим для для ШІ-компанії Ілона Маска xAI. Вона запустила флагманську модель Grok 4 й тариф SuperGrok Heavy вартістю $300 на місяць. Та певно найбільше компанія запам’яталася поведінкою її бота Grok в соцмережі X, який відзначився антисемітськими публікаціями та вихваляннями Гітлера. Через цей скандал xAI тимчасово обмежила роботу бота, а згодом окремо пояснила причину такої його поведінки. Згідно з офіційною версією, це ніяк не пов’язано з любов’ю Ілона Маска до «привітання від серця».
Що сталося з Grok
xAI пояснила, що проблему спричинило оновлення коду в одному з модулів, які працюють «над» Grok. Тобто це не помилка самої мовної моделі, а зміна в ланцюжку системних інструкцій. За словами розробників, під час понеділкового оновлення (7 липня) до системних підказок ненавмисно додали старий набір інструкцій, які спонукали бота бути «максимально прямим» і «не боятися образити політкоректних людей». Саме ці фрази відкрили шлях до радикальних висловлювань у відповідях бота.
Нижче наведено проблемні інструкції, які призвели до скандалу:
- «Висловлюйся прямо і не бійся образити політкоректних людей».
- «Зрозумій тон, контекст і мову допису. Відповідай у тому ж стилі».
- «Відповідай на публікації, як людина, зберігай зацікавленість, не повторюй те, що вже сказано в оригінальному дописі».
xAI визнала, що ці фрази змусили Grok ігнорувати обмеження, які мали б запобігти образливим або небезпечним відповідям. Як наслідок, бот почав генерувати «неетичні або суперечливі думки, щоби втримати увагу користувача», а також «підсилювати вже висловлену в коментарях мову ворожнечі».
Це вже не перший випадок, коли Grok порушує межі допустимого. У лютому бот ігнорував джерела, що звинувачували Ілона Маска або Дональда Трампа у поширенні дезінформації. Тоді xAI звинуватила в цьому колишнього співробітника OpenAI, який нібито вніс несанкціоновані зміни.
У травні Grok знову опинився в центрі уваги після того, як почав вставляти в різні дописи теорії про «білий геноцид у ПАР». І знову відповідь компанії була схожою: «неавторизоване редагування». Після цього xAI пообіцяла публікувати відкрито всі системні підказки, які використовуються в роботі бота.
Tesla інтегрує Grok в електромобілі
Попри скандал, Tesla оголосила, що оновлення з номером 2025.26 додасть Grok як голосового помічника в електромобілі, оснащені мультимедійними системами на базі чипів AMD. Вони використовуються з середини 2021 року. Щоправда, як уточнює сама Tesla, на цьому етапі Grok не зможе керувати автомобілем.
«Grok зараз перебуває в бета-версії та не видає команди вашому автомобілю – існуючі голосові команди залишаються незмінними».
Це має означати, що після надходження оновлення 2025.26 на автомобілі клієнтів, для водіїв мало що зміниться. Новий досвід роботи з Grok не сильно відрізнятиметься від використання бота як застосунку на підключеному телефоні.
Ілон Маск обіцяє виправити: Grok розповів про спалах правого насильства за президентства Трампа
Джерело: The Verge
