Британская ветеринарная ассоциация выпустила принципы работы с искусственным интеллектом

Британская ветеринарная ассоциация опубликовала набор общих принципов применения искусственного интеллекта (ИИ) в работе ветеринарных врачей и призвала отрасль сохранять открытость к новым инструментам, но использовать их как поддержку, а не замену профессиональной экспертизы. В документе сформулированы восемь принципов, которые охватывают клиническую практику, образование, исследования, эпиднадзор, а также административные задачи и управление практикой.

Среди ключевых установок:

• понимание того, как устроены ИИ-инструменты и где они могут ошибаться;
• участие ветеринарных врачей в разработке, проверке и валидации решений для здоровья и благополучия животных;
• оценка того, на каких данных обучалась система и в каких контекстах возможны смещения и предвзятость;
• соблюдение конфиденциальности данных и получение согласия клиента;
• обязательный человеческий контроль в клинике с ответственностью за окончательное решение на стороне специалиста;
• доступность информации о том, какие данные использовались и как система пришла к выводу, чтобы это можно было объяснить.

Позиция ассоциации также включает рекомендации для работодателей: разработать внутренние правила применения ИИ, проводить оценку рисков и готовить материалы, которые помогают ветеринарным врачам разбираться в принципах работы инструментов и критериях их оценки. Для рынка в целом в документе обозначены запросы на международные стандарты управления и «объяснимость» ИИ-решений, развитие регулирования ИИ-инструментов, применяемых в Великобритании, со стороны профильных регуляторов, а также на предоставление разработчиками прозрачных данных валидации.

Подпишитесь прямо сейчас на наш телеграм-канал, чтобы следить за ветеринарными новостями.

Отдельно ассоциация приводит данные своего опроса Voice of the Veterinary Profession: 21% ветеринарных врачей, работающих в клинической практике, уже используют ИИ-инструменты. Чаще всего респонденты называли преимуществами интерпретацию данных, улучшение диагностического тестирования и экономию времени. При этом среди рисков отмечались интерпретация результатов без контекста и без дополнительных проверок, чрезмерная зависимость от ИИ с «размыванием» навыков человека и проблемы защиты данных. Чтобы помочь с практической оценкой рисков, ассоциация подготовила «пирамиду риска», где сценарии применения ИИ ранжированы от минимального до неприемлемого в зависимости от уровня автономности инструмента, и опубликовала перечень вопросов, которые стоит задавать поставщикам программного обеспечения при проведении оценки рисков.

Источник: vetclick.com