О чём эта история
Разработчик облачной офтальмологической платформы Retina.AI компания «Диджитал Вижн Солюшнс» перенесла своё решение в облако Yandex Cloud. Проект развёрнут с использованием технологии бессерверных вычислений Cloud Functions, управляемой базы Managed Service for YDB и хранилища Object Storage платформы данных Yandex Cloud.
Использование российского облака позволило компании локализовать проект, выполнить требования законодательства по хранению персональных данных, а также обеспечить высокую производительность скриптов модели машинного обучения и круглосуточную бесперебойную работу платформы.
Сервис находится в стадии тестирования и сегодня его успешно используют более 800 клиентов компании, создавая нагрузку до 200 обращений по обработке снимков в день.
Локализовать сервис и решить вопросы быстродействия и масштабирования
«Диджитал Вижн Солюшнс» — разработчик облачной офтальмологической платформы Retina.AI. Решение компании — облачный сервис по поиску патологий сетчатки глаза человека на изображениях, сделанных с помощью медицинских фундус‑камер, которые выполняют снимок глазного дна, или приборов оптической когерентной томографии. Retina.AI входит в Реестр российского ПО, запатентована и успешно прошла клинические исследования на базе Федерального научно‑клинического центра специализированных видов медицинской помощи и медицинских технологий ФМБА России.
Сервис в стадии тестирования, сейчас его используют более 800 пользователей в России и других странах мира.
Алгоритмы искусственного интеллекта диагностируют наиболее распространённые офтальмологические заболевания сетчатки глаза человека, включая диабетическую ретинопатию и ряд других. Модель данных обучена на результатах анализа других снимков и логике принятия решения профильных врачей. Для быстрой и безошибочной работы системы требуется гибкая и производительная вычислительная платформа.
Физическая инфраструктура ограничивала возможности масштабирования и производительности, поэтому компания решила перейти на облачную платформу. У «Диджитал Вижн Солюшнс» был опыт взаимодействия с Microsoft Azure, но такое развёртывание не позволило бы решению пройти необходимую регистрацию медицинского изделия, а также выполнить требование ФЗ‑152 по хранению персональных данных на территории РФ.
Чтобы решить вопросы локализации, соответствия требованиям российского законодательства и обеспечить высокую производительность системы искусственного интеллекта, компания решила перенести проект на облачную платформу Yandex Cloud.
Компания выбирала облачную платформу, основываясь на опыте работы с подобными решениями других вендоров, а также учитывая наличие необходимых облачных сервисов.
Выбор в пользу Yandex Cloud сделали после анализа аналогичных платформ. Решающими факторами принятия решения стали:
- возможность бессерверных вычислений;
- удобные управляемые сервисы;
- локализация на территории РФ;
- соответствие облака ФЗ‑152;
- отзывчивая клиентская и сервисная поддержки;
- возможность быстрого и простого масштабирования ресурсов;
- прозрачная финансовая модель и оплата только за потребляемые ресурсы.
Yandex Cloud предлагает высокий уровень отказоустойчивости и надёжности за счёт использования современной геораспределённой инфраструктуры, соответствует высоким требованиям информационной безопасности и российского законодательства. Также важным критерием выбора была высокая экономическая эффективность использования ресурсов Yandex Cloud.
Так как Retina.AI — узкоспециализированное решение, а его разработчик по сути своей стартап, то возможность оплаты только потребляемых ресурсов позволила сократить расходы на вычисления и использовать больше средств на развитие продукта и бизнеса.
Бессерверные вычисления и оптимизация модели
Платформа Retina.AI стала третьим проектом компании, использующими технологию машинного обучения для анализа графических данных. Первая версия моделей и скриптов‑обработчиков размещалась на локальном сервере. Этот вариант подходил для прототипирования, но не для коммерческой эксплуатации, так как не удовлетворял требованиям отказоустойчивости и масштабирования.
Компания решила перенести платформу в облако и использовать бессерверные вычисления, чтобы сократить финансовые и временные затраты. Чтобы пройти государственную регистрацию платформы как медицинского изделия, а также соответствовать требованиям ФЗ‑152 и ФЗ‑353 в части хранения персональных данных и врачебной тайны, Retina.AI была перенесена в Yandex Cloud.
Основные элементы платформы и используемые сервисы:
- Yandex Cloud Functions — размещение модели и скриптов обработчиков;
- Yandex Managed Service for YDB — база для хранения служебных данных (снимки, данные пользователей и другая информация);
- Yandex Object Storage — хранение снимков, которые пожертвовали пользователи или сообщили об ошибке в их обработке;
- Сайт и личный кабинет клиента — размещены на стороннем хостинге, принимают от пользователя снимки, осуществляют предпроцессинг снимков с фундус‑камер для более точной обработки, загружают снимки в облако, выдают пользователю готовый результат.
Перенос проекта в Yandex Cloud занял 2,5 месяца и был полностью осуществлён специалистами компании. В процессе миграции возникали технические сложности по адаптации скриптов, которые успешно решались совместно с технической поддержкой Yandex Cloud.
Теперь обработка снимка занимает 2–3 секунды, а выдача готового результата клиенту происходит в течение 10 секунд. Достигнуть такой высокой производительности удалось за счёт оптимизации модели (её размер не превышает нескольких десятков мегабайт) и использования бессерверных вычислений. Используемые функции разделены по категориям: обработка снимка, анализ ошибок, интерфейс администратора, учёт пользователей и другие. Сегментация изображений выполняется сверхточной нейросетью с U‑Net архитектурой. Снимки, которые пользователи платформы разрешили использовать (пожертвовали) для обучения модели, хранятся в надёжном объектом хранилище.
Сейчас система обрабатывает в день до 150–200 запросов клиентов. Работа системы стабильна, а стек используемых технологий имеет большой потенциал для масштабирования проекта.
Результаты
«Диджитал Вижн Солюшнс» решили главную задачу — размещение Retina.AI в безопасном и надёжном российском облаке, обеспечивающем круглосуточную бесперебойную работу платформы.
Использование Yandex Cloud позволило выполнить требования российского законодательства в части хранения персональных данных и медицинской тайны. Использование Cloud Functions снизило трудозатраты на обслуживание инфраструктуры и повысило финансовую эффективность. Оплата мощностей производится по факту их потребления, что делает проект экономически прозрачным.
Перенос Retina.AI в облако позволяет обрабатывать 150–200 запросов клиентов в день без падения производительности. Облачные сервисы представляют собой готовые продукты, которые легко внедрить даже небольшой компании с небольшим числом собственных технических специалистов.
В дальнейших планах компании государственная регистрация сервиса, как медицинского изделия, внедрение среды для ML‑разработки полного цикла Yandex DataSphere, а также перенос в Cloud Functions фронтенда проекта.
Мнение
Наша компания, «Диджитал Вижн Солюшнс», развивает проект облачного офтальмологического сервиса Retina.AI, использующего самые передовые алгоритмы искусственного интеллекта для диагностики широкого спектра офтальмологических заболеваний. В лице Yandex Cloud мы обрели надёжного партнёра для нашего облачного сервиса, с которым сегодня уже работают почти 800 пользователей из России, стран СНГ и ещё почти 25 стран мира. У нас высокие требования к облачному решению — надёжность, безопасность, возможность быстрого масштабирования на тысячи и десятки тысяч пользователей. Среди наших конкурентов — Google Deep Mind и несколько американских и европейских компаний, поэтому нам важно сосредоточиться на продуктовой части. Yandex Cloud позволяет нам не думать о проблемах организации нашего сервиса в облаке и посвятить время созданию в России продукта мирового уровня.