Автоматизация разработки генеративного ИИ –

    0
    0


    Sponsored Feature Искусственный интеллект (ИИ) в последнее время доминирует в заголовках газет, посвященных бизнесу и технологиям, особенно в связи с появлением технологий генеративного ИИ, таких как ChatGPT. Однако для компаний, начинающих или расширяющих использование ИИ и генеративного ИИ, остаются значительные технологические проблемы, а также препятствия, связанные с обучением и процедурами.

    Безусловно, число компаний, использующих ИИ, продолжает расти по всему миру и практически во всех отраслях. Согласно отчету IBM Global AI Adoption Index 2022, внедрение этой технологии идет полным ходом. Согласно расчетам, в 2022 году глобальный уровень внедрения ИИ неуклонно рос и сейчас составляет 35%, что на четыре пункта больше, чем годом ранее. А еще 42% опрошенных респондентов заявили, что они изучают возможности начала использования ИИ.

    “Вообще говоря, это новая область, и она развивается очень быстро”, – говорит Ассаф Катан, директор по бизнесу израильской компании-разработчика AT Deci. “Существует сочетание краткосрочных и долгосрочных проблем. В краткосрочной перспективе речь идет о выборе пути. Хочу ли я создавать собственные возможности, работать с моделями с открытым исходным кодом и самостоятельно их настраивать; или же я хочу работать через API с чем-то вроде Open AI? В этом случае мне не нужно быть суперпрофессионалом, но и уровень контроля над производительностью модели и возможность ее настройки при обеспечении конфиденциальности данных ограничены.”

    Таковы первоначальные краткосрочные решения. Затем, заглядывая в более долгосрочную перспективу, компании должны учитывать необходимость масштабирования и затраты на это. “Если смотреть на долгосрочную перспективу, то предположим, что компания хочет создать генеративную службу ИИ. Они считают, что это может повысить эффективность, улучшить рабочие процессы и будет масштабироваться”, – объясняет Катан. “Им необходимо подумать о последствиях масштабирования использования модели, на которой основано их решение. Эти генеративные модели огромны, с миллиардами параметров, поэтому вычислительные мощности, которые они требуют для выводов, огромны. Как построить ее таким образом, чтобы при масштабировании Вы могли справиться с затратами?”

    Развитие искусственного интеллекта

    Сочетание генеративного ИИ и более мощного серверного оборудования, лучше подходящего для обработки таких рабочих нагрузок, открывает перед компаниями новые возможности для быстрого проектирования, создания и доставки новых приложений и моделей ИИ. Согласно тому же исследованию IBM, ИИ помогает компаниям в самых разных областях. Это и решение проблемы нехватки рабочей силы и талантов путем автоматизации повторяющихся задач; экономия времени за счет автоматизации ИТ, бизнес и сетевых процессов; экономия затрат; повышение эффективности операций, улучшение производительности ИТ и сети; и, в конечном итоге, обеспечение лучшего опыта для клиентов.

    Большинство ощутимых преимуществ для бизнеса сосредоточено вокруг эффективности, объясняет Катан. “Одно предприятие, с которым мы общаемся, имеет большую клиентскую базу, поэтому у него много звонков в службу поддержки клиентов”, – говорит он. “Сегодня они используют стандартные чат-боты, не связанные с ИИ, для решения многих основных проблем. Они планируют использовать генеративный ИИ, чтобы покрыть подавляющее большинство таких звонков, а остальное оставить на усмотрение человеческих агентов”.

    Катан упомянул еще одну компанию, с которой работает Дечи и которая умело использует ИИ для создания контента. “У них тысячи различных продуктов и SKU. Они используют генеративный ИИ для написания описаний товаров”, – объясняет он. “Теперь эти описания продуктов – не просто две фразы. Они включают в себя описание продукта, технические характеристики и информацию о функциях. Они используют генеративный ИИ для составления 90 процентов таких описаний продуктов”.

    AutoNAC обеспечивает эффективное глубокое обучение

    Платформа глубокого обучения Deci работает на основе технологии Automated Neural Architecture Construction (AutoNAC). “Наше предложение состоит из двух основных компонентов”, – объясняет Катан. “Первый – это нейронная сеть, где наша технология помогает Вам построить эффективные архитектуры нейронных сетей, оптимизированные для конкретного случая использования, аппаратного обеспечения, на котором они работают, и настроенные на достижение определенных KPI”.

    AutoNAC выполняет многоцелевой поиск в пространстве поиска, состоящем из десятков миллиардов различных потенциальных архитектур, чтобы определить оптимальную архитектуру – такую, которая обеспечивает баланс между точностью, низкой задержкой и высокой пропускной способностью, которая адаптирована к конкретным задачам, характеристикам данных, целям производительности и конкретному оборудованию. С помощью AutoNAC компания Deci создала некоторые из самых эффективных в мире моделей компьютерного зрения и генеративных моделей, таких как YOLO-NAS, DeciLM 6B, DeciDiffusion и др.

    Механизм AutoNAC также может предсказывать точность и уровень производительности генерируемой им архитектуры без необходимости предварительного обучения модели, как это происходит с большим количеством моделей ИИ. Конечный результат – автоматически скомпилированная модель ИИ, разработанная гораздо быстрее и дешевле, чем раньше, добавляет Катан: “Вы экономите деньги и обеспечиваете более высокую пропускную способность, что означает лучший пользовательский опыт”.

    Другой компонент – это Infery, инструмент для выводов Deci. “Infery дополнительно оптимизирует производительность нейронной сети во время выполнения, чтобы обеспечить ее максимально эффективную работу на конкретном аппаратном обеспечении”, – продолжает он. “У нас есть сильные инструменты вывода, оптимизированные для различных случаев использования. Для генеративного ИИ мы создали специальный инструмент вывода, оптимизированный для таких больших моделей, поскольку они ведут себя иначе, чем маленькие модели”.

    Генеративные модели ИИ, отличающиеся сложными итеративными процессами, отличаются от обычных статических моделей, используемых в таких задачах, как обнаружение объектов. Традиционные средства оптимизации не справляются с этой задачей, поэтому требуются специализированные инструменты для таких динамических архитектур.

    Сегодня команды разработчиков ИИ тратят многие месяцы и ресурсы на разработку и оптимизацию своих моделей с бесконечными итерациями проб и ошибок при попытке ручного проектирования моделей, однако только 30% моделей доходят до производства. Платформа Deci оптимизирует процесс разработки и оптимизации моделей, устраняя неопределенность и гарантируя успех в производстве. С помощью Deci команда специалистов по искусственному интеллекту может выйти на производство за несколько дней, а не месяцев.

    ИИ за работой

    Платформа компьютерного зрения и генеративного ИИ Deci в сочетании с серверами Lenovo ThinkSystem успешно используется в ряде отраслевых вертикалей, включая производство, розничную торговлю и даже сельское хозяйство. “Deci работает на двух основных рынках, – объясняет Катан, – компьютерного зрения и генеративного ИИ”.

    Приложения компьютерного зрения используются, например, на производственных и автомобильных предприятиях для визуального контроля с целью выявления бракованной продукции. В сельском хозяйстве клиенты компании Deci используют камеры компьютерного зрения для контроля здоровья, размера и роста животных. В розничной торговле компьютерное зрение используется для автоматической кассы. “Все это – использование старого доброго ИИ на основе компьютерного зрения для проведения анализа и принятия решений”, – добавляет он.

    Что касается генеративного ИИ, то Deci используется клиентами на самых разных рынках для выполнения функций, встречающихся в любой отрасли. “Везде есть обслуживание клиентов”, – говорит он. “Затем в сфере финансовых услуг есть более специфические варианты использования, например, кредитный анализ. Команды продаж и маркетинга используют данные о клиентах для создания индивидуальных предложений по продажам. Они также занимаются индивидуальным маркетингом, и не только в плане содержания. Есть даже визуальный компонент, использующий такие инструменты, как преобразование текста в изображение и комбинирование изображений для создания индивидуальных маркетинговых пакетов”.

    Сила в цифрах

    Для компаний, желающих внедрить системы и модели искусственного интеллекта, это может быть сложным и трудным процессом. Работая вместе, компании Lenovo и Deci надеются упростить этот процесс за счет того, что платформа Deci AI и модели сконфигурированы таким образом, чтобы наиболее эффективно работать на серверах Lenovo. Таким образом, для компаний, заинтересованных в разработке собственных моделей искусственного интеллекта, это станет универсальным решением.

    Одним из аспектов этого партнерства является участие компании Deci в программе Lenovo AI Innovators Program. Это помогает обеим компаниям получить платформу глубокого обучения и модели обработки естественного языка Deci, работающие на серверах Lenovo ThinkSystem. Программа Lenovo AI Innovators предоставляет Deci доступ к собственному опыту Lenovo в области искусственного интеллекта и обеспечивает партнеров предварительно сконфигурированным оборудованием, готовым к работе с платформой AutoNAC.

    Программа Lenovo AI Innovators обеспечивает обширную сеть компаний-партнеров и глобальный охват 180 стран. Компания Lenovo также создала центры передового опыта в области искусственного интеллекта, в которых компании-партнеры могут обмениваться опытом и ресурсами.

    И не только масштабы компании Lenovo, по словам Катана, добавляют партнерства. “Когда Вы обращаетесь к клиенту, Вам необходимо знать, каков его сценарий использования, каковы сроки?” – говорит он. “Сроки очень важны. Возможно, у Вас есть отличный продукт, но он появился слишком рано или слишком поздно. Когда мы работаем с такой компанией, как Lenovo, они лучше знают предполагаемый сценарий использования и сроки, чтобы создать решение”.

    В качестве примера Катан объясняет, как объединенная платформа AutoNAC и серверы Lenovo впишутся в относительно распространенный сценарий использования. “Допустим, Вы создаете решение для визуального контроля на своем производственном предприятии”, – говорит он. “Ему нужен компьютер Lenovo. Ему нужны камеры. Ему нужно хранилище для данных и т.д. В этой ситуации мы являемся компонентом искусственного интеллекта”.

    Большой брат вмешивается

    Lenovo приносит глобальный охват, надежность, а также возможности продаж и поддержки. Deci приносит свою основную технологию. “Для нас они – как старший брат”, – говорит Катан. “Наша сила – в технологии искусственного интеллекта. Таким образом, это сочетание их охвата и клиентов с нашей технологией. Это наше обещание компании Lenovo. Мы всегда будем предлагать самую лучшую и сильную технологию искусственного интеллекта, и мы будем продолжать работать и концентрироваться, чтобы сделать ее как можно более сильной”.

    Системы Lenovo ThinkSystems имеют уникальную пару для поддержки тяжелых вычислительных функций, таких как вычисления в области ИИ. “Когда Вы думаете о предприятии, которое хочет использовать генеративный ИИ и создать сервис, который будет способен масштабироваться, затраты становятся огромными”, – объясняет Катан. “И эти модели становятся все больше. Чем больше модель, тем больше вычислений она требует и потребляет, поэтому создание моделей, потребляющих меньше вычислений, означает снижение расходов на оборудование”.

    Сотрудничество Deci с Lenovo началось относительно недавно, в начале 2023 года, и Кейтан с нетерпением смотрит в будущее. “С нашей стороны мы будем продолжать расширять матрицу поддержки”, – добавляет Катан. “Мы будем расширять тип и спектр поддерживаемых нами сценариев использования”. Партнерство с Lenovo началось совсем недавно, поэтому мы проводим технологическую валидацию, чтобы помочь сотрудникам Lenovo лучше понять нашу платформу и ценностное предложение”.

    Спонсор – компания Lenovo.

    Предыдущая статьяHuawei может продать более 1,6 млн Mate 60 Pro единицы, если бы это было возможно
    Следующая статьяКомпенсация генерального директора Microsoft Наделлы снизилась… до $48 млн
    Эксперт тестовой лаборатории. Первый джойстик держал в руках в возрасте 3 лет. Первый компьютер, на котором „работал” был с процессором Intel i386DX-266. Тестирует оборудование для издания ITBusiness. Будь то анализ новейших гаджетов или устранение сложных неполадок, этот автор всегда готов к выполнению поставленной задачи. Его страсть к технологиям и приверженность качеству делают его бесценным помощником в любой команде.