НАЙБІЛЬШИМ ВУЗЬКИМ МІСЦЕМ ШТУЧНОГО ІНТЕЛЕКТУ Є РУХ ДАНИХ Я говорив про це весь рік: $ALAB стане одним з найбільших переможців від висновків штучного інтелекту – податку на робочі навантаження штучного інтелекту. Реальність проста: дані недостатньо швидко переміщуються між обчисленнями, пам'яттю та сховищем, щоб встигати за висновками в реальному часі. І цей розрив лише збільшується в міру того, як моделі стають більш інтерактивними, децентралізованими та динамічними. Кожен великий гравець у сфері штучного інтелекту адаптується: • $NVDA Грейс Хоппер — побудована на основі когерентності пам'яті • $AMD MI300 - оптимізований для міжмережевих з'єднань з високою пропускною здатністю • $MSFT центри обробки даних зі штучним інтелектом - розроблені з використанням індивідуальних мережевих топологій Всі вони сходяться в одному і тому ж виклику: обчислення тепер є проблемою зв'язку - Astera Labs - мій улюблений спосіб зіграти в це вузьке місце.
61,12K