Google утверждает, что он не только создал ИИ, который работает быстрее и лучше, чем люди, в разработке чипов, но и веб-гигант использует его для разработки чипов для более быстрого и лучшего ИИ.
Под проектированием мы подразумеваем составление плана этажа чипа, который представляет собой расположение его подсистем, таких как ядра ЦП и графического процессора, кэш-память, контроллеры ОЗУ и т. Д., На его кремниевом кристалле. Размещение мельчайших электронных схем, из которых состоят эти модули, может повлиять на энергопотребление микрочипа и скорость обработки: проводка и маршрутизация сигналов, необходимые для соединения всего этого, имеют большое значение.
В статье, которая будет опубликована на этой неделе в журнале Nature, и ее увидит Реестр Перед публикацией сотрудники Google Азалия Миросейни, Анна Голди и их коллеги описывают систему глубокого обучения с подкреплением, которая может создавать планы этажей менее чем за шесть часов, тогда как инженеры и их автоматизированные инструменты могут потратить месяцы, чтобы придумать оптимальную компоновку.
Нам сказали, что Google использовал эту систему искусственного интеллекта для создания плана помещения TPU следующего поколения – своего модуля обработки тензорных данных, который веб-гигант использует для ускорения нейронных сетей в своей поисковой системе, общедоступном облаке, AlphaGo и AlphaZero и других. проекты и продукты.
Фактически, Google использует программное обеспечение для машинного обучения, чтобы оптимизировать будущие микросхемы, которые ускоряют работу программного обеспечения для машинного обучения.
Для программного обеспечения это ничем не отличается от игры: оно постепенно осваивает выигрышную стратегию, расставляя кубик фишки, как если бы он играл, скажем, в игре го. Нейронная сеть довольна размещением чипа, который для человека может показаться нетрадиционным беспорядком, но на практике компонент имеет преимущество над частью, запланированной инженерами и их отраслевыми инструментами. Нейронная сеть также использует несколько методов, которые когда-то рассматривались полупроводниковой промышленностью, но от которых отказались, поскольку они считались неэффективными.
Мы считаем, что более мощное оборудование, разработанное с помощью ИИ, будет способствовать развитию ИИ, создавая симбиотические отношения между двумя областями.
«Наш метод был использован для разработки следующего поколения ускорителей искусственного интеллекта Google, и он может сэкономить тысячи часов человеческих усилий для каждого нового поколения», – написали гуглеры. «Наконец, мы считаем, что более мощное оборудование, разработанное на основе ИИ, будет способствовать развитию ИИ, создавая симбиотические отношения между двумя областями».
При разработке микропроцессора или ускорителя рабочей нагрузки обычно вы определяете, как его подсистемы работают, на языке высокого уровня, таком как VHDL, SystemVerilog или, возможно, даже Chisel. Этот код в конечном итоге будет преобразован в так называемый список соединений, который описывает, как набор макроблоков и стандартных ячеек должен быть соединен проводами для выполнения функций чипа. Стандартные ячейки содержат базовые элементы, такие как логические элементы NAND и NOR, а макроблоки содержат набор стандартных ячеек или другой электроники для выполнения специальной функции, такой как обеспечение встроенной памяти или ядра процессора. Таким образом, макроблоки значительно больше стандартных ячеек.
Затем вам нужно выбрать, как расположить этот список соединений ячеек и макроблоков на кристалле. Инженеры-люди могут потребовать от нескольких недель до месяцев работы со специализированными инструментами проектирования микросхем в течение многих итераций, чтобы получить план, оптимизированный по мере необходимости с точки зрения энергопотребления, времени, скорости и т. Д. Обычно вы настраиваете размещение больших макроблоков по мере развития вашего дизайна и позволяете автоматизированным инструментам, использующим неинтеллектуальные алгоритмы, размещать множество более мелких стандартных ячеек, а затем промывать и повторять до тех пор, пока не будет сделано.
Чтобы ускорить этот этап планирования этажа, ученые искусственного интеллекта Google создали систему сверточной нейронной сети, которая выполняет размещение макроблоков самостоятельно в течение нескольких часов для достижения оптимальной компоновки; стандартные ячейки автоматически помещаются в промежутки другим программным обеспечением. Эта система машинного обучения должна быть способна создавать идеальный план этажа намного быстрее и лучше, чем описанный выше метод настройки и повторения плана этажа с помощью традиционных в отрасли автоматизированных инструментов и людей за элементами управления.
Нам говорят, что нейронная сеть постепенно совершенствует свои навыки размещения по мере накопления опыта. Он пытается разместить макроблоки на кристалле с пространством между ними, заполненным стандартными ячейками, и вознаграждается в зависимости от перегрузки маршрутизации, длины межсоединений проводов и других факторов. Эта награда используется в качестве обратной связи для улучшения следующей попытки размещения блоков. Это повторяется до тех пор, пока программное обеспечение не овладеет этим и не сможет применить свои возможности к любому чипу, который вы хотите разместить, даже если оно раньше не встречало ничего подобного.
В своей статье гуглеры заявили, что их нейронная сеть «способна обобщать все микросхемы, что означает, что она может учиться на опыте, чтобы стать лучше и быстрее при установке новых микросхем, что позволяет разработчикам микросхем пользоваться помощью искусственных агентов с большим опытом, чем у любого другого. человек может когда-либо получить “.
Создание плана этажа может занять меньше секунды с использованием предварительно обученной нейронной сети, а с помощью нескольких часов точной настройки сети программное обеспечение может сравниться или превзойти человека в дизайне плана этажа, согласно статье, в зависимости от какой показатель вы используете. Нейронная сеть превзошла человеческих инженеров, которые работали над предыдущим ускорителем TPU, с точки зрения синхронизации сигналов, энергопотребления, площади кристалла и / или количества необходимых проводов, в зависимости от задействованных макроблоков.
Например, микросхема TPU предыдущего поколения была разработана инженерами-людьми, и когда нейронная сеть составила план для того же компонента, программное обеспечение смогло сократить количество проводов, необходимых на кристалле (уменьшив длину проводов с 57,07). м до 55,42 м). Точно так же нейронная сеть уменьшила длину проводов в ядре процессора Ariane RISC-V при создании плана этажа, говорится в документе. Система была обучена частично с использованием предыдущих разработок TPU.
Мы отмечаем, что после того, как нейронная сеть гуглеров выложила TPU следующего поколения, экспертам все еще приходилось настраивать дизайн, чтобы компонент действительно работал так, как задумано – люди и их обычные программные инструменты были необходимы для непростого бизнеса проверка распространения тактового сигнала и т. д. Этот шаг все равно потребуется, даже если TPU будет планироваться людьми, а не нейронной сетью.
«Наш метод был использован в ленте продукта недавнего TPU Google», – написали гуглеры. «Мы полностью автоматизировали процесс размещения с помощью PlaceOpt, после чего дизайн был отправлен третьей стороне для оптимизации после размещения, включая детальную маршрутизацию, синтез дерева часов и оптимизацию после часов».
Мы также отмечаем, что размещение нейронной сети для закрепленного лентой TPU следующего поколения было, согласно статье, «сравнимо с ручным проектированием», и с дальнейшим шагом тонкой настройки, который оптимизировал ориентацию блоков, длина провода была сократился на 1,07 процента. Весь процесс проектирования занял всего восемь часов. Таким образом, похоже, что либо Google может использовать свою нейронную сеть, чтобы превзойти людей, либо более или менее соответствовать им, и он может делать это за часы, а не дни, недели или месяцы.
Их статья заключает:
В прошлом году Google выпустил препринт аналогичной статьи, в которой описывалось использование обучения с подкреплением для компоновки микросхем. В качестве нашего дочернего сайта Следующая платформа Как указывалось в то время, Google работал над дизайном чипов на базе искусственного интеллекта, по крайней мере, еще в 2017 году. Этот последний документ является не только опубликованным в журнале уточнением более ранней работы, но и раскрывает, что программное обеспечение использовалось для проектирования ТПУ нового поколения.
Тем временем Nvidia обсуждала использование инструментов на основе искусственного интеллекта для размещения микросхем. Будьте готовы к тому, что все больше нейронных сетей разрабатывают оборудование, чтобы сделать нейронные сети более мощными. ®
