AMD підготувала до випуску чипи для обробки завдань штучного інтелекту – запуску великих мовних моделей (LLM).
Компанія представила прискорювач Instinct MI300X та процесор Instinct M1300A (APU), які призначені для навчання та управління LLM. Обидва нові чипи відрізняються великим обсягом пам’яті та покращеною енергоефективністю порівняно з попередниками. Компанія заявила, що MI300X має у 1,5 раза більше пам’яті, ніж попередня версія M1250X.
Під час презентації генеральний директор AMD Ліза Су сказала, що MI300X «є найпродуктивнішим прискорювачем у світі». Вона заявила, що MI300X порівняний з чіпами Nvidia H100 у навчанні LLM, але працює краще на стороні виведення ─ в 1,4 раза краще, ніж H100, при роботі з Meta Llama 2, LLM з 70 млрд параметрів.
AMD уклала партнерську угоду з Microsoft, щоб розмістити MI300X на її віртуальних машинах Azure. Технічний директор Microsoft Кевін Скотт також оголосив, що віртуальні машини Azure ND MI300X, вперше представлені в листопаді, доступні в попередній версії. Meta також оголосила, що розгорне процесори MI300 у своїх центрах обробки даних.
Чипи APU об’єднують CPU та GPU для швидшої обробки даних. AMD заявила, що MI300A пропонує більш продуктивні обчислення, швидке навчання моделей та 30-кратне підвищення енергоефективності. Також наголошується, що в порівнянні з H100 у нового чипа в 1,6 раза більше пам’яті. Він також має уніфіковану пам’ять, тому більше не потрібно переміщати дані з різних пристроїв.
APU MI300A «зараз знаходиться у виробництві та інтегрується до центрів обробки даних». Інформація про ціни поки що не повідомляється.
AMD також анонсувала мобільний процесор Ryzen 8040, який додасть відповідним пристроям більше вбудованих функцій штучного інтелекту. Компанія заявила, що серія 8040 пропонує в 1,6 раза більшу продуктивність при обробці завдань ШІ, ніж попередні моделі, і включає нейронний процесор (NPU). Крім ШІ процесор Ryzen 8040 пропонує інші переваги. Наприклад, він забезпечує приріст продуктивності під час редагування відео на 65%, а в іграх – на 77% порівняно з конкуруючими рішеннями.
AMD очікує, що такі виробники, як Acer, Asus, Dell, HP, Lenovo та Razer, випустять свої пристрої із чипами Ryzen 8040 у першому кварталі 2024 року.
AMD також оголосила про широку доступність програмної платформи Ryzen AI, яка дозволить розробникам створювати моделі ШІ на ноутбуках із процесорами Ryzen, вивантажуючи моделі в NPU, щоб CPU міг знизити енергоспоживання. Користувачі отримають підтримку базових моделей, таких як модель розпізнавання мови Whisper, і LLM, таких як Llama 2.
Джерело: The Verge
Adblock test (Why?)
