В стремежа си да подобри производителността и енергийната ефективност на изкуствения интелект, Google разработва нов сървърен чип, известен с работното си име „Frozen v2“. Този чип ще включва архитектурата на последния им AI модел Gemini, директно в силициевата си основа, което е иновативен подход за оптимизация на обработката на големи езикови модели.
Какво представлява 'Frozen v2'?
„Frozen v2“ е проект за създаване на специализиран хардуер, който ще вгражда част от архитектурата на Gemini – новия голям езиков модел на Google – директно в чипа. Това означава, че някои от ключовите изчислителни операции, които обикновено се изпълняват софтуерно, ще бъдат реализирани хардуерно. Според инженерите, работещи по проекта, това ще позволи обработка на между 6 и 10 пъти повече токени на ват енергия в сравнение с най-новите TPU (Tensor Processing Unit) на Google.
Защо това е важно?
Обработката на големи езикови модели изисква огромни изчислителни ресурси и консумира значително количество енергия. Внедряването на архитектурни елементи директно в хардуера може да намали енергийното потребление и да увеличи скоростта на обработка. Това е особено важно за центровете за данни, които поддържат AI услуги, тъй като по-ниската консумация на енергия намалява оперативните разходи и екологичния отпечатък.
По-широк контекст на развитието
Google не е първата компания, която експериментира с хардуерно ускорение на AI модели, но интегрирането на архитектурата на конкретен модел директно в силиция е сравнително нов подход. Това отразява тенденцията в индустрията към създаване на по-специализирани и енергийно ефективни решения за изкуствен интелект, които могат да поддържат все по-сложни и големи модели. Подобни разработки могат да стимулират конкуренцията между големите технологични компании и да ускорят иновациите в областта на AI хардуера.
Какво може да последва?
Ако „Frozen v2“ се окаже успешен, Google може да го използва в своите центрове за данни за по-бързо и по-ефективно обслужване на AI приложения, включително търсачката, облачните услуги и други продукти, базирани на изкуствен интелект. Това би могло да доведе до по-достъпни и по-бързи AI услуги за потребителите и бизнеса. В дългосрочен план, подобни хардуерни иновации могат да променят начина, по който се проектират и изпълняват големите езикови модели, като поставят нови стандарти за енергийна ефективност и производителност в индустрията.
