Опасность искусственного интеллекта недооценили

На людей, которые предупреждают об опасностях, которые несет искусственный интеллект, смотрят как на чудаков на букву «М». Ну какой там Skynet, если даже самая всесильная компания Google не научила свой переводчик на базе ИИ более-менее сносно переводить текст?

Но крутые спецы по AI знают, в чем таится настоящая опасность. Один такой эксперт, на условиях анонимности, поделился своими опасениями с редакцией Либератума. Дело вот в чем: как известно, любая нейронная сеть должна пройти обучение на тестовой выборке. Выборку подготавливает человек. Допустим, что специалист случайно или преднамеренно подобрал данные некорректно. Далее нейронная сеть обучается, тестируется и поступает в эксплуатацию. Например, есть такая система — Northpointe COMPAS. Она использует нейросетки для того, чтобы предсказать вероятность повторного совершения преступления. Некоторые судьи, выносящие решения о досрочном освобождении зэков, используют ее при принятии решений. Если исходные данные были подобраны неудачно, то работа алгоритмов может напрямую сказаться на судьбах людей. ИИ может выпустить на свободу убийцу-рецидивиста или оставить на нарах какого-нибудь безобидного ботаника. Так вот спецы проверили работу COMPAS и пришли к выводу, что искусственный мозг выносил, в некоторых случаях, предвзятые решения. А теперь представьте, как предвзятость может отразиться на системах, которые используются в медицине и других критически важных областях.

ИИ вряд ли осознает себя и шмальнет ядерными ракетами по человечеству. Но получить некачественное лечение и умереть, либо отправиться в тюрьму на основе неверного решения рискует каждый.