Google разработва нов чип 'Frozen v2' с архитектурата на Gemini за по-ефективна обработка на AI задачи

Google разработва нов чип 'Frozen v2' с архитектурата на Gemini за по-ефективна обработка на AI задачи
Google работи върху нов сървърен чип, наречен 'Frozen v2', който интегрира архитектурата на своя модел Gemini директно в силиция. Очаква се този чип да предложи значително по-висока енергийна ефективност при обработка на изкуствен интелект в сравнение с настоящите TPU решения.

В стремежа си да подобри производителността и енергийната ефективност на изкуствения интелект, Google разработва нов сървърен чип, известен с работното си име „Frozen v2“. Този чип ще включва архитектурата на последния им AI модел Gemini, директно в силициевата си основа, което е иновативен подход за оптимизация на обработката на големи езикови модели.

Какво представлява 'Frozen v2'?

„Frozen v2“ е проект за създаване на специализиран хардуер, който ще вгражда част от архитектурата на Gemini – новия голям езиков модел на Google – директно в чипа. Това означава, че някои от ключовите изчислителни операции, които обикновено се изпълняват софтуерно, ще бъдат реализирани хардуерно. Според инженерите, работещи по проекта, това ще позволи обработка на между 6 и 10 пъти повече токени на ват енергия в сравнение с най-новите TPU (Tensor Processing Unit) на Google.

Защо това е важно?

Обработката на големи езикови модели изисква огромни изчислителни ресурси и консумира значително количество енергия. Внедряването на архитектурни елементи директно в хардуера може да намали енергийното потребление и да увеличи скоростта на обработка. Това е особено важно за центровете за данни, които поддържат AI услуги, тъй като по-ниската консумация на енергия намалява оперативните разходи и екологичния отпечатък.

По-широк контекст на развитието

Google не е първата компания, която експериментира с хардуерно ускорение на AI модели, но интегрирането на архитектурата на конкретен модел директно в силиция е сравнително нов подход. Това отразява тенденцията в индустрията към създаване на по-специализирани и енергийно ефективни решения за изкуствен интелект, които могат да поддържат все по-сложни и големи модели. Подобни разработки могат да стимулират конкуренцията между големите технологични компании и да ускорят иновациите в областта на AI хардуера.

Какво може да последва?

Ако „Frozen v2“ се окаже успешен, Google може да го използва в своите центрове за данни за по-бързо и по-ефективно обслужване на AI приложения, включително търсачката, облачните услуги и други продукти, базирани на изкуствен интелект. Това би могло да доведе до по-достъпни и по-бързи AI услуги за потребителите и бизнеса. В дългосрочен план, подобни хардуерни иновации могат да променят начина, по който се проектират и изпълняват големите езикови модели, като поставят нови стандарти за енергийна ефективност и производителност в индустрията.

Тази статия е автоматично обобщена и структурирана от AI News Tech въз основа на публично достъпни технологични източници.

Източници

Видео по темата

Can You Trust MKBHD?
Can You Trust MKBHD? Marques Brownlee
I Stepped into my Favorite Games (for Free)
I Stepped into my Favorite Games (for Free) Linus Tech Tips
DF Retro Super Show #027: The Legend of Zelda - Ocarina of Time - N64/3DS Revisited
DF Retro Super Show #027: The Legend of Zelda - Ocarina of Time - N64/3DS Revisited Digital Foundry
How to Download Apps on Linux
How to Download Apps on Linux Linus Tech Tips