Компания Groq – едва ли не сотый стартап, который пытается создать карту-ускоритель ИИ, но первый, у кого получилось повысить производительность до 1 квадриллиона операций в секунду. Это вчетверо превышает производительность самой мощной карты Nvidia. Возможно, залогом успеха решения стала его относительная простота.
Одноядерный процессор Groq Tensor Streaming Processor (TSP) требует мощности в 300 Вт. Конструкция TSP максимально проста. Techspot сравнил его с «гигантским куском кремния с почти ничем, кроме матрично-векторного процессора и кэша; никаких контроллеров и серверных модулей».
Читать дальше