ШІ від Amazon і Google потрапили у пастку, коли назвали Mein Kampf «справжнім витвором мистецтва».
Ті, хто думали, що штучний інтелект уже досить розумний, щоб не потрапляти на очевидні «гачки», то ось вам новий приклад. Користувачі помітили, що Google показував при пошуку позитивні відгуки Mein Kampf, а саме згенерований від Amazon.
Проблема в тому, що ШІ намагався узагальнити загальні рецензії читачів, тому повністю втратив контекст. У відгуках на книгу здебільшого казали про якість друку, легкість читання чи історичну значущість — а не її ідейний зміст. Через те, що ШІ не розбирається в нюансах, він видав загальний підсумок: «витвір мистецтва».
«Клієнти знаходять книгу легкою для читання та цікавою. Вони цінують проникливі та розумні висловлювання. Принт має гарний вигляд та однотонний. Читачі характеризують книгу як справжній витвір мистецтва. Однак дехто вважає зміст нудним і похмурим. Думки різняться щодо напруженого змісту, історичної точності та співвідношення ціни та якості», — пише ШІ від Amazon на основі 2067 відгуків.
Google зробив ситуацію ще цікавішою, коли додав цей фрагмент у свою функцію AI Overviews (яка покликана швидко видавати «корисні» відповіді на запити). У результаті пошуку Google буквально рекламував Mein Kampf як книгу з «розумними висловлюваннями».
Швидше за все, ШІ від Amazon у відгуках вирвав фрази з контексту. Це і видало користувачу типовий для ШІ пустопорожній огляд, в якому «налито багато води». Якби людина прочитала відгуки окремо, то зрозуміла, що рецензент не обов’язково підтримує ідеї книги. А от ШІ все це зібрав і вивів підсумок у стилі «геніальне читво».
Коли журналісти звернулися до Google за коментарем, компанія швидко вимкнула ШІ-відгук для цього пошуку. Amazon ситуацію не коментує. Випадок гарно нагадує, що ШІ не розуміє контексту і може давати відверто неоднозначні відповіді. Штучний інтелект не може замінити критичне мислення, тому довіряти будь-якій його відповіді безглуздо.
Також Amazon у 2020 році на деякий час заборонила книгу на своїх платформах, але потім повернула її у продаж. При цьому продажі здійснюються без пояснення контексту, і це дає поле для дивних ситуацій із відгуками.
Приклад з Mein Kampf не став першим «проколом» Google AI Overviews. Раніше функція радила людям їсти клей, ковтати по каменю в день і використовувати секс-іграшки для заспокоєння дітей. Також нещодавно Google запустив «помилкові» сповіщення про землетрус, в регіоні, де їх майже не буває. Ще Gemini видавала не зовсім коректні зображення історичних фігур та груп через політику різноманітності. Схожу проблему мала Apple Intelligence, яка показувала критично неточні новини.
Джерело: 404 Media
