Fujitsu Deep Neural Networks (DNN)

Deep Neural Networks (DNN) - технология глубинного обучения.

25 мая 2017 года компания Fujitsu объявила о создании механизма распределения памяти для «глубинных нейронных сетей» (Deep Neural Networks, DNN).

Созданная технология может использоваться:

• в медицинской практике для аналитики - обнаружения диабетической ретинопатии,
• для анализа и классификации спутниковых снимков,
• для обработки естественного языка,
• обработки больших объемов данных на основе графов (включая устройства на основе Интернета вещей),
• в финансовых транзакциях,
• в составе социальных сетей и т.п.

Представление перераспределения памяти, (2017)

Для сетей DNN, используемых в различных областях сферы искусственного интеллекта, включая распознавание и классификацию речи и объектов, требуется большой объем вычислительных ресурсов. Это создает большую нагрузку на действующие вычислительные инфраструктуры. В рамках разработки для глубинного обучения модельный параллелизм используется в задачах автоматического распределения нагрузки на память сетей DNN. В результате, возможности инфраструктур для обработки данных, обрабатываемых приложениями искусственного интеллекта, значительно расширяются без необходимости дополнительных инвестиций.

За последние годы мы наблюдаем появление разработок, в которых используются аппаратные ускорители для поддержки большого объема вычислений сетей DNN. Постоянное увеличение расходов на вычисления в сетях DNN представляет собой серьезную проблему, особенно когда размер модели сети DNN увеличивается до такого размера, что она не может поместиться в памяти одного ускорителя. При решении проблем, связанных с искусственным интеллектом, требуются более широкие и глубокие нейронные сети, а также более точная классификация категорий. Наша разработка позволяет напрямую решить эту проблему, распределяя требования к памяти сетей DNN по нескольким вычислительным машинам. С помощью нашей технологии можно увеличить размер нейронных сетей до нескольких вычислительных машин для создания более точных и масштабных моделей сетей DNN. Тсунео Наката (Tsuneo Nakata), главный исполнительный директор Fujitsu Laboratories of Europe

Технология позволяет распределить память посредством преобразования беспорядочно организованных нейронных сетей в эквивалентные сети, где отдельные или все уровни заменяются набором более мелких подуровней. Эти подуровни созданы так, чтобы стать полным аналогом оригинальных уровней, но отличаются более высокой эффективностью вычислений. Поскольку оригинальные и другие уровни происходят из одного и того же профиля, процесс обучения распределенных сетей DNN конвергирует с оригинальной сетью DNN без каких-либо дополнительных расходов.Создатели ALT Linux – о сложной судьбе свободного ПО, роли Максута Шадаева и сделке с «Ростелекомом». Подкаст TAdviser 17.5 т

Робототехника