Суперкомпьютеры в руках врачей: каким правилам должен следовать искусственный интеллект?

Лучшие компьютерные программы, способные к обучению и принятию решений, могут быть использованы для многих хороших дел, но они также могут представлять угрозу для людей и их общества (хотя пока в основном в руках других людей). Поэтому ВОЗ решила сформулировать принципы их использования

Мы живем в век компьютерных технологий, которые изменили нашу жизнь практически всеми мыслимыми способами. Что и говорить, Интернет, компьютеры, сотовые телефоны и все удобства, которые окружают нас каждый день и о повседневном использовании которых мы можем даже не догадываться. Развитие микрочипов и компьютерных технологий также продвинуло вперед медицину. Например, современные методы визуализации, такие как магнитно-резонансная томография или компьютерная томография, были бы совершенно немыслимы без мощных компьютеров. Хотя человеческая деятельность остается в центре медицинской работы, информационные технологии позволили добиться успехов в диагностике и лечении многих заболеваний.

Фото: https://naukatehnika.com/

Когда несколько десятков лет назад заговорили об искусственном интеллекте, писатели-фантасты представляли его очень красочно. В фильмах из недалекого будущего это переполнено роботами, поразительно напоминающими человека, обладающими эмоциями и способными всесторонне воспринимать реальность. Ведь в одноименном фильме про ИИ Искусственный Интеллект в главной роли андроида совершенно аналогичен человеку в роли маленького ребенка, способного чувствовать, воспринимать и любить. Времена мало продвинулись, и в мире появился искусственный интеллект. Он постепенно проникает во все новые и новые сферы нашей жизни, но никакого пафосного переворота не происходит.

Не ждите чудес

Реальность далека от красочных образов восторженных футуристов. Роботы не взяли верх, мы по-прежнему ходим на работу, покупаем булочки и едем. Искусственный интеллект принимает форму сложных алгоритмов, скрытых в компьютерах. Больше, чем человекоподобный робот, он напоминает черный ящик из единиц и нулей, спрятанный в недрах микропроцессоров.

Чем хорош искусственный интеллект? Обычная компьютерная программа (очень просто) основана на заранее заданном алгоритме решения, поэтому она всегда будет давать вам один и тот же результат из одного и того же задания, при этом мы знаем отдельные вычислительные процессы этого процесса. Искусственный интеллект же работает иначе — он способен к обучению.

Для этого используется ряд механизмов; один из них — искусственная нейронная сеть, представляющая собой виртуальный механизм, вдохновленный реальными процессами в нейронах человеческого мозга. Такая система может извлечь обратную связь из своих ошибок и закрепить правильные результаты. В то время как «классическая» программа должна быть заранее подготовлена ​​к любой мыслимой ситуации, чтобы решить ее, система искусственного интеллекта может обучаться «на лету» и, при изменении начальных условий, может изменить свой алгоритм решения, чтобы все еще достичь оптимального полученного результата.

Силиконовая медицина

Однако вскоре искусственный интеллект стал применяться в медицине. Одним из первых реальных успехов стала программа раннего выявления мерцательной аритмии через мобильные приложения. Комбинируя смарт-часы, мобильное приложение и подключение к системе здравоохранения, многие фибрилляции были своевременно обнаружены и вылечены до того, как могли возникнуть клинически значимые последствия. Значительным успехом стало использование ИИ при прогнозировании риска развития острого коронарного события, где программа характеризовалась высокой точностью. Другим применением было, например, обучение оценке результатов функциональных тестов работы легких и более точной диагностике легочных заболеваний.

Фото: Shutterstock

Постепенно, с годами, практически в каждой отрасли медицины появился хотя бы один способ применения искусственного интеллекта. Эндокринология, нефрология и гастроэнтерология, мониторинг диабета и даже предсказание эпилептических припадков — все это заслуги искусственного интеллекта. Способность к обучению проникла даже в патологию и микроскопическую анатомию — программа машинного обучения может оценивать образцы самостоятельно и, в отличие от живого патологоанатома, исследует весь образец, от него ничего не ускользает, и он ничего не забывает. Здесь, однако, искусственный интеллект все же достигает своего предела – компаратор всегда снова живой врач, и пока мы не смогли в достаточной мере доказать эффективность и надежность «искусственного патологоанатома».

Интеллект на поводке

Еще в 1942 году Айзек Азимов, известный американский писатель-фантаст, сформулировал культовые «законы робототехники». Они изложили три основных принципа, которым должны следовать все роботы: они не должны причинять вред человеку, они должны подчиняться человеческому приказу и не должны причинять себе вред. Глядя на эти законы с сегодняшней точки зрения, можно сказать, что человечество давно и сознательно нарушило их — высокопроизводительные дроны совершают самоубийственные военные миссии, и единственный закон, который мы держим под контролем, — это послушание создаваемых нами устройств.

Что касается искусственного интеллекта, то его происхождение также было предсказано много десятилетий назад; описание знаменитого Алана Тьюринга в 1950 году о том, что искусственный интеллект силен, когда человек, проводящий интервью, не знает, с кем он разговаривает, с человеком или с машиной, до сих пор воспринимается как действительный стандарт успеха ИИ.

Время идет вперед, и Всемирная организация здравоохранения описала шесть новых принципов, которыми должен руководствоваться искусственный интеллект, чтобы его использование отвечало общественным интересам во всем мире. Эти принципы можно без преувеличения охарактеризовать как современные законы робототехники, хотя уже сейчас ясно, что их соблюдение и применение будет не совсем простым.

Права человека и права роботов

Понятно, что эти требования более или менее иллюзорны, так как каждое правительство и каждая нация будут использовать технологии в соответствии со своей концепцией человеческого благополучия, которая часто резко отличается от концепции ВОЗ. В мире, который еще не смог договориться об основных правах человека, идея сотрудничества наций в области ИИ гораздо более научно-фантастична, чем могли себе представить Тьюринг и Азимов.

Фото: https://webiomed.ru/

Другая проблема заключается в том, что алгоритмы изучаются таким образом, что их не видит никто, даже их создатель. Алгоритм не объясняет нам свой мыслительный процесс, но приходит к выводу, который является логически лучшим в соответствии с критериями, которые мы ему дали. Загвоздка в том, что у алгоритмов нет этических барьеров, и если мы дадим им задание, они просто выполнят его, независимо от моральных аспектов.

Об этом знают, например, в США, где программа прогнозирования преступности беззастенчиво выявляла только населенные пункты с преобладанием чернокожих. Несмотря на то, что он математически успешен, его перестали использовать для обозначения «расизма». Не исключены аналогичные проблемы и в медицинских программах, и можно ожидать, что у нас еще будет бурная дискуссия при рутинном использовании ИИ в здравоохранении. Однако, учитывая скорость прогресса, это, скорее всего, будет недолгим будущим.

Новый закон

ВОЗ основывает свои принципы разработки и использования искусственного интеллекта на общественных интересах во всем мире:

• Защита автономии человека: в контексте здравоохранения это означает, что системы здравоохранения и медицинские решения должны контролироваться живыми людьми, а конфиденциальность медицинской информации должна быть защищена. Необходимо соблюдать принцип информированного согласия пациентов.
• Содействие благополучию людей, безопасности и общественным интересам. Разработчики технологий ИИ должны соответствовать всем нормативным требованиям безопасности, точности и эффективности для определенных целей и показаний к использованию. Оценка и измерение качества технологии в установленной эксплуатации должны быть доступны для ее дальнейшего совершенствования.
• Обеспечение прозрачности, ясности и понятности. Под прозрачностью мы подразумеваем достаточно информации, опубликованной и задокументированной по заданному вопросу до разработки соответствующей технологии искусственного интеллекта. Информация должна быть доступной и способствовать конструктивному общественному обсуждению того, как должна быть разработана технология и как ее следует или не следует использовать.
• Развитие надежности и личной ответственности. Хотя технологии искусственного интеллекта выполняют определенные задачи, ответственные лица несут ответственность за обеспечение их использования в соответствующих условиях надлежащим образом обученным персоналом. Должны быть предусмотрены эффективные механизмы для поиска и компенсации отдельных лиц или групп, на которых могут негативно повлиять решения, принимаемые искусственным интеллектом.
• Обеспечение инклюзивности и равенства. Инклюзивность требует, чтобы ИИ в здравоохранении был разработан для максимально широкого спектра использования и доступности, независимо от возраста, пола, дохода, расы, этнической принадлежности, сексуальной ориентации, способностей или других характеристик, защищенных конвенциями и правами человека.
• Продвижение ответственного и устойчивого искусственного интеллекта: дизайнеры, разработчики и пользователи должны постоянно и прозрачно оценивать использование ИИ в реальной практике и определять, ведут ли себя технологии адекватно и надлежащим образом в соответствии с требованиями и ожиданиями. Системы искусственного интеллекта должны быть разработаны с учетом окружающей среды, а потребности в энергии должны быть сведены к минимуму. Правительствам и компаниям следует устранять предполагаемые проявления нежелания использовать ИИ на рабочем месте и возможную потерю рабочих мест из-за автоматизированных систем.