Smart Big Five: машинное обучение в технологических корпорациях
Что делают в Google AI и FAIR.
Большая пятерка технологических корпораций GAFAM (Google, Amazon, Facebook, Apple и Microsoft) — это триллионы долларов, терабайты данных и огромное количество человеческих ресурсов. Разработки этих компаний определяют, что нас ждет в будущем.
Разбираемся, как технологические гиганты используют машинное обучение и на что это влияет.
#1. Facebook AI Research Lab
ML-подразделение Facebook AI Research Lab (FAIR) заработало в 2013 году. До этого компания уже использовала алгоритм FLOW, который персонализировал ленты новостей, а также распознавал и озвучивал содержание публикаций для незрячих пользователей.
Для лаборатории Цукерберг нанял инженера из Google Brain Марка Аурелио Ранзато и изобретателя сверточных нейросетей Яна Лекуна. Цель FAIR — создать искусственный интеллект, способный понимать мир вокруг него.
На старте в команде было 30 исследователей и программистов, сейчас — более тысячи человек. Основной офис лаборатории находится в Нью-Йорке. В 2015 году появилось подразделение в Париже. Оно сотрудничает с Французским институтом исследований в области компьютерных наук и автоматизации.
Корпорация тестирует 300 тысяч нейросетей в месяц. ИИ-инженер Asimo, созданный в 2015 году, самостоятельно проверяет алгоритмы.
В 2016 году Facebook начал создавать карту плотности населения Земли при помощи ИИ и изображений со спутников. В 2019 году компания отчиталась, что проект практически завершен — большая часть жителей планеты указана на карте. Ожидается, что такая карта поможет спасать людей при стихийных бедствиях и болезнях (например, коронавирусе).
Фрагмент карты плотности населения Земли / Facebook
Соцсеть использует ML для разных задач. Например, анализом текста занимается нейросеть Deeptext. Она способна понимать тексты публикаций и соотносить их со значениями из базы. Deeptext используется для лучшего таргетирования рекламы, а кроме того — для предотвращения самоубийств.
Facebook применяет компьютерное зрение и анализ текста для выявления нежелательного контента. Кроме этого, разработчики Applied Machine Learning создали умную систему автоматического перевода текстов, которая постоянно обучается.
В рамках проекта ParlAI Facebook создала интеллектуальных чат-ботов для Messenger. Среди функций — шаблоны сообщений, выдача квитанций, поддержка разговора с клиентами, отправка и получение API. В 2017 году пришлось остановить эксперимент по общению двух чат-ботов из-за того, что исследователи перестали их понимать — боты изобрели собственный язык.
Facebook периодически запускает экспериментальные ML-проекты. Например, Caffe2go — это аналог Prisma, способный обрабатывать видео во время съемки.
Caffe2go / Facebook
Лаборатория работает не только над продуктами для соцсети. В августе 2018 года она анонсировала создание нейросети, способной улучшить работу аппаратов МРТ.
В 2020 году Facebook объявил войну DeepFake и fake news: при помощи алгоритмов корпорация намерена выявлять ненастоящие видео и проверять факты в новостях.
#2. Google AI
Google ежегодно обрабатывает больше двух триллионов поисковых запросов, поэтому обучаемые нейросети — одно из основных направлений корпорации.
В 2011 году у лаборатории Google Research появилось подразделение Google Brain, разработавшее опенсорс-библиотеку TensorFlow. В 2014 году корпорация приобрела стартап DeepMind за $600 млн. Нейросеть DeepMind известна победой над чемпионом по игре в го. Сейчас она обучается играть в Dota 2.
Google Quantum AI — лаборатория, изучающая как квантовые компьютеры помогают в развитии ИИ. Ее открыли совместно с NASA в 2013 году. В 2019 году Google заявил, что достиг «квантового превосходства» при помощи компьютера Sycamore. Вычислительные мощности Sycamore в 100 млн раз превышают мощности обычных компьютеров.
Помимо этого в 2017 году компания купила DL-стартап из Индии Halli Labs и инструмент по обработке изображений AIMatter, а также NLP-компанию Banter. Продукт последней сейчас используется в Google Hangouts и других облачных сервисах.
В том же 2017 году компания запустила проект Gradient Ventures, а в 2018 — Google Assistant Investment Program (GAIP). Оба проекта направлены на инвестиции в ML-стартапы. Это сотни проектов в разных сферах: от медицины и биологии до логистики и бытовых нужд.
Google активно привлекает пользователей со всего мира к обучению нейросетей. Для этого создано подразделение AI Experiments, где любой желающий может поиграть с нейросетями.
Все эти проекты объединены под названием Google AI. Но Google Brain остается основным подразделением. Среди достижений проекта — нейронный машинный перевод Google (GNMT), который включает сквозную систему обучения, способную обработать множество примеров одновременно. Также в Google Brain разрабатывают способы обработки запросов и восстановления изображений, новые методы шифрования, развивают голосового помощника. Все — с использованием ML.
В 2019 году количество патентов корпорации, связанных с такими разработками, достигло почти четырех тысяч. Большинство из них касается голосового помощника Google Assistant, который используется в IoT-устройствах.
Google популяризирует машинное обучение. Проект Cloud AutoML призван сделать нейросети доступными для неспециалистов. Например, Cloud AutoML Vision обладает интерфейсом с функцией drag and drop. Можно легко перетащить изображения для обучения нейросети и управлять полученным алгоритмом внутри экосистемы Google Cloud. Также в Cloud AutoML есть инструменты для распознавания речи и перевода и робот для колл-центров — Contact Center AI.
#3. Microsoft AI Lab
ИИ-лабораторию в Microsoft запустили в 2016 году, хотя эксперименты с машинным обучением проводили и раньше. Ключевое направление — предоставление облачных вычислений на платформе Azure ML. Компании могут развернуть собственные нейросети, используя структуру Microsoft AI Platform, которая включает в себя специализированные пакеты: Cognitive Toolkit, Bot Framework и Cognitive Services. Вычислительными мощностями Azure пользуется, например, компания OpenAI Илона Маска.
С помощью ИИ от Microsoft исследователи и клиенты определяют эмоции Будды, создают выставку ИИ-искусства ARTificial, варят виски и шьют одежду.
Корпорация запустила образовательные проекты AI School и AI Business School. Также пользователи могут увидеть несколько десятков ИИ-проектов от исследователей Microsoft. Это, например, проекты для отслеживания снежных леопардов, навигации по музею Метрополитен, определения загрязнения воды или наблюдение за сном младенцев.
Можно протестировать работу нейросетей на платформе Experience AI. Например, запланировать поездку, проанализировать текст, превратить рукописный скетч в программный код.
Известный проект Cortana — внутренняя разработка корпорации. Это интеллектуальный виртуальный голосовой помощник с искусственным интеллектом. Она работает в браузере Edge, использует поисковую систему Bing и не поддерживает другие браузеры. Приложение Microsoft Pix — камера с использованием искусственного интеллекта, которая оценивает освещение и движение. А Seeing AI — приложение для слабовидящих людей, которое озвучивает все, что происходит вокруг. Оба приложения доступны только на iPhone.
В прошлом году компания объявила о новом подразделении здравоохранения. Оно будет создавать ИИ-платформы для аналитики, диагностики и рекомендаций по лечению. Кроме того, в 2017 году в Microsoft запустили инициативу AI for Earth, которая собрала в себе инструменты для улучшения экологии на планете.
В 2019 году Microsoft также анонсировала технологию, которая ускоряет алгоритмы машинного обучения до работы в реальном времени. Проект Brainwave использует процессоры FPGA, которые могут быть запрограммированы на микросхеме, что позволяет обычному оборудованию работать с нейросетями.
В мае этого года Microsoft заменила 30 редакторов Microsoft MSN и Microsoft Edge на нейросети. Эксперимент прошёл удачно. Сейчас компания работает над нейросетью, которая учится искать ошибки в коде в программистов. Ее обучают на программных текстах (их Microsoft собирает с 2001 года).
#4. Amazon Machine Learning Solutions Lab
Машинное обучение используются во всех популярных продуктах бренда: Alexa, Amazon Go Store и механизм рекомендаций Amazon. Доход от него составляет 35% от всей прибыли компании. Сервис сначала работал на интеллектуальном алгоритме a9, созданном в 2003 году. В 2019 стало известно, что Amazon заменил алгоритмы на более продвинутые.
Свой подход к развитию искусственного интеллекта основатель компании Джефф Безос назвал Flywheel — маховик. То, что создается в одной части компании, действует как катализатор развития машинного обучения в других областях.
Amazon одними из первых создал smart-помощника — Alexa появилась в 2014 году. Она используется в смартфонах и IoT-устройствах. Alexa может, например, делать покупки, давать бытовые советы, предупреждать об ухудшении погоды.
В 2020 году открылся первый в мире магазин без кассиров Amazon Go. По словам компании, в нем продаются продукты, которые действительно нужны пользователям. Это стало возможным благодаря обработке данных. Amazon продолжает отслеживать покупки и улучшать алгоритмы.
Безоса не раз обвиняли в том, что сотрудники на складах работают в тяжелых условиях. Сейчас все больше задач на себя берут роботы с компьютерным зрением.
Компания также предоставляет ИИ-инструменты для клиентов. В 2017 году корпорация открыла лабораторию ML Solutions Lab на базе Amazon Web Services (AWS), где можно использовать smart-алгоритмы и облачные мощности Amazon в своих целях. Кроме этого была запущена Amazon Rekognition — платформа распознавания изображений на основе глубокого обучения. Компьютерное зрение корпорации распознаёт лица в реальном времени и читает текст с изображений.
#5. Apple Machine Learning Research
За 8 последних лет компания приобрела 13 ИИ-стартапов и разработала как минимум 4 продукта на базе нейросетей.
Стратегия по применению машинного обучения в Apple сосредоточена на пользовательском опыте. Это улучшение взаимодействия человека с компьютером, повышение качества камер и обработки изображений, распознавания речи и, конечно, Siri. В 2010, когда ее запустили, она не была «интеллектуальным помощником». Но 2018 году в компанию пришёл Джон Джанандреа — экс-вице-президент по развитию ИИ в Google. Джанандреа реорганизовал и возглавил в Apple департамент по исследованию машинного обучения. То, что произошло дальше, в Apple назвали «трансплантацией мозга» Siri — голосовой помощник стал «умным» при помощи нейросистемы iBrain.
За год до этого, в 2017, был запущен проект Core ML для создания приложений на базе машинного и глубокого обучения. Сейчас третье поколение системы Core ML 3 используется для iOS-приложений. Например, для FaceID, Animoji и дополненной реальности. Core ML включает в себя Python-библиотеку Turi Create для упрощения разработки пользовательских моделей машинного обучения, инструмент Create ML для создания моделей без написания кода, а также фреймворки для распознавания лиц, текста на картинках, штрих-кодов.
В этом же году компания создала микрочип A11, включающий нейропроцессор Neural Engine. Этот чип имплементировали в IPhone 8 и iPhoneX.
В ноябре 2020 года Apple представила новый чип для компьютеров Mac, который также работает на Neural Engine. Компания подчеркнула, что им удалось сделать прорыв в области нейропроцессинга, поэтому у нового чипа нет конкурентов.
В 2014 году инсайдер рассказал о планах компании по созданию умного электромобиля. Секретный проект получил кодовое название «Титан», также известен как Apple iCar. По слухам, CEO Apple Тим Кук одобрил проект в конце 2014 года и поручил его вице-президенту Стиву Задески, бывшему инженеру Ford.
Компания не говорит о проекте открыто, но в 2018 году стало известно о партнерстве Apple и Volkswagen, а в июне 2019 года компания приобрела стартап по производству интеллектуальных автомобилей Drive.ai.
В своем подходе к искусственному интеллекту Apple сосредоточилась на работе самих устройств, а не на облачном процессинге. Для развития направления компания купила стартап Xnor, который разработал сложные ИИ-системы, способные потреблять мало ресурсов, но при этом работать локально на смартфонах и планшетах.
Обложка: Microsoft AI
