Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США требует от производителей специальной маркировки медицинских устройств с искусственным интеллектом, чтобы помочь пациентам понять технологию, и протестировать их на реальных данных, чтобы увидеть, как они работают в дикой природе за пределами клинической среды.

Сторожевой пес опубликовал план действий из пяти пунктов по регулированию автономных устройств, использующих алгоритмы машинного обучения. ИИ в здравоохранении — это огромный рынок, который, по прогнозам, достигнет колоссального 6,6 млрд долларов в 2021 году в Америке.

Компании, надеющиеся получить кусок пирога, должны будут получить одобрение FDA, если они хотят выпустить на рынок свои продукты на основе ИИ. Однако регулирующему органу сложно сформулировать этот процесс, поскольку он должен учитывать скорость развития технологии.

«В этом плане действий излагаются следующие шаги FDA по дальнейшему надзору за SaMD на основе AI / ML», сказал Бакул Патель, директор Центра передового опыта FDA в области цифрового здравоохранения в Центре устройств и радиологического здоровья, отвечает за утверждение предпродажных медицинских устройств. Это программное обеспечение как медицинское устройство — SaMD — если вам интересно.

«В плане излагается целостный подход, основанный на полном надзоре за жизненным циклом продукта, чтобы раскрыть огромный потенциал, которым обладают эти технологии для улучшения ухода за пациентами, обеспечивая при этом безопасную и эффективную функциональность программного обеспечения, которая улучшает качество ухода, получаемого пациентами. Мы ожидаем, что этот план действий со временем будет развиваться, чтобы оставаться в курсе, обеспечивать безопасность пациентов и улучшать доступ к этим многообещающим технологиям ».

врач

Читайте также:
Анонс: самостоятельная поездка по VR вместе с Google Expeditions

Ведущие врачи критикуют Google за то, что он не поддерживает невероятные утверждения о сверхчеловеческом искусственном интеллекте, обнаруживающем рак

ПРОЧИТАЙТЕ БОЛЬШЕ

Во-первых, в плане действий указывается на необходимость обновления действующей нормативно-правовой базы для тщательного изучения программного обеспечения ИИ, которое меняется с течением времени. Алгоритмы улучшаются и обновляются путем обучения на новых данных, и важно убедиться, что, несмотря на эти изменения, устройства остаются безопасными для медицинского использования.

Производители должны будут предоставить «заранее определенный план управления изменениями» — документ, в котором точно указывается, что именно изменяется, и объясняется, как алгоритм будет изучать эти изменения. Ожидается, что обновленная нормативно-правовая база будет подробно описана в отдельном отчете, который будет опубликован позже в этом году.

Второй пункт плана касается того, что регулирующий орган называет «надлежащей практикой машинного обучения, или сокращенно GMLP». Он должен установить ряд стандартов, которыми будут руководствоваться компании, разрабатывающие и производящие медицинские устройства с искусственным интеллектом.

Для обеспечения единообразия FDA заявило, что оно сотрудничает с другими сообществами, которые работают над аналогичными проблемами сравнительного анализа, такими как Британский институт стандартов и Институт инженеров по электротехнике и электронике (IEEE).

Предубеждения в программном обеспечении машинного обучения особенно важны в здравоохранении, где качество обслуживания может варьироваться в зависимости от возраста, пола, достатка и этнической принадлежности людей. FDA предупредило, что если устройства обучаются на исторических данных, которые отражают эти предубеждения, программное обеспечение может быть проблематичным и работать хуже с разными группами людей.

Читайте также:
Самые дырявые приложения и операционные системы

«Агентство признает решающую важность того, чтобы медицинские устройства хорошо подходили для целевой группы пациентов, различающейся по расовому и этническому признаку, а также необходимость усовершенствованных методологий для идентификации и улучшения алгоритмов машинного обучения», — говорится в плане действий.

Он тесно сотрудничает с учеными, чтобы разработать алгоритмы, способные выявлять предубеждения и даже потенциально устранять их для изучения будущего программного обеспечения.

Кто читает этикетку?

Если продукты питания имеют этикетки с указанием ингредиентов и пищевой ценности, почему бы не медицинские устройства? FDA хочет, чтобы производители предоставили четкие этикетки, чтобы описать, что входит и выходит из алгоритма.

глаз

Исследование: ИИ, предназначенный для обнаружения диабетической болезни глаз, моргает в реальном мире, заставляет врачей больше работать

ПРОЧИТАЙТЕ БОЛЬШЕ

На этикетках должны быть указаны данные, используемые для обучения программного обеспечения, то, что устройство измеряет или принимает в качестве входных данных для получения результата, и его общую производительность с точки зрения точности. В нем утверждалось, что большая прозрачность будет означать, что пациенты и пользователи смогут доверять технологии и с большей вероятностью примут ее. Позднее в этом году FDA проведет открытый семинар, чтобы увидеть, как внедрить такие этикетки.

Наконец, агентство просит компании принять участие в пилотном исследовании, направленном на тестирование медицинских устройств с искусственным интеллектом с использованием реальных данных. Однако исследование будет добровольным и требует, чтобы представители общественности были подопытными кроликами.

Читайте также:
Как включить "Сообщения" в iCloud на iPhone, iPad и Mac

«Оценки, выполненные в рамках этих усилий, могут быть использованы для определения пороговых значений и оценок производительности для показателей, наиболее важных для RWP SaMD на основе AI / ML, включая те, которые можно использовать для проактивного реагирования на проблемы безопасности и / или удобства использования, и для получения обратной связи от конечных пользователей », — заявил сторожевой пес.

«Мы признаем, что SaMD на основе AI / ML является быстро развивающейся областью, и мы ожидаем, что этот План действий будет продолжать развиваться по мере того, как мы продолжаем эту деятельность и стремимся внести дополнительную ясность в эту область», — заключило FDA. Пресс-секретарь агентства недоступен для дальнейших комментариев. ®