Онкобольные получали опасные советы от суперкомпьютера IBM Watson

IBM Watson — суперкомпьютер, получивший после серии экспертиз похвалу за эффективность в выборе методов лечения онкологических заболеваний в 2012 году. Однако и он может ошибаться. Этот вывод был сделан экспертами-медиками, проанализировавшими данные о советах и назначениях пациентам. Как выяснилось, устройство допускает грубые ошибки, а для пациентов такие принятые решения могут стать фатальными.

Одним из характерных примеров служит история мужчины 65 лет. Искусственный интеллект назначил ему препарат «Бевацизумаб», в списке побочных последствий которого указан риск неконтролируемого кровотечения. Условия для возникновения этой проблемы были на тот момент указаны в диагностической карте больного. Однако ИИ не принял в расчёт этот важный нюанс.

Как полагают эксперты, отвечающие за обучение искусственного интеллекта, проблема принятия опасных решений заключается в «скармливании» суперкомпьютеру данных не о реальных историях, а о неких усреднённых или гипотетических пациентах. В результате специалисты были, мягко говоря, сильно разочарованы в нём. При этом IBM Watson продолжают использовать в работе, но под контролем врачей.