Черное зеркало. В США робот уволил разработчика без ведома начальства

Разработчик из Калифорнии и сооснователь стартапа Renly Ибрагим Диалло рассказал, как его уволила компьютерная программа.

Контракт с Диалло был расторгнут, хотя должен был действовать еще почти 10 месяцев, пишет BBC.

История началась с того, что Диалло получил голосовое сообщение от своего непосредственного руководителя со словами «Боже мой, с тобой все в порядке?», но не стал на него отвечать. В тот же день он не смог попасть на работу — пропуск не работал. Он обратился к охраннику, который помог ему добраться до своего рабочего места. Отдел кадров пообещал Диалло разобраться с ситуацией. Однако такая же ситуация повторилась и на следующий день. Кроме того, он стал терять доступ к рабочим программам на компьютере, а один из сотрудников сообщил, что учетная запись Диалло в системе деактивирована.

Через пару дней охрана велела Диалло собрать вещи и покинуть офис. Когда он обратился непосредственно к директору компании, та заверила, что программиста не планировали увольнять и не отдавали такого распоряжения. Тем не менее, в определенный момент глава компании сама получила письмо с сообщением об увольнении Диалло.

«Я просидел три недели без работы и без зарплаты, пока со мной перезаключали договор и заново настраивали все необходимые уровни допуска. Так что я хотел объяснений», — рассказывает Диалло.

Оказалось, что менеджер должен был перезаключить временный контракт с Диалло, но был уволен и, вероятно, не стал этим заниматься. Контракт истек, и система самостоятельно уволила сотрудника. Далее машина распорядилась заблокировать пропуск Диалло, а затем отключить его рабочий аккаунт.

Подробнее об ситуации с Ибрагимом Диалло можно прочитать в его личном блоге. Некоторые комментаторы рассказали, что сами оказывались в похожей ситуации и сравнили историю Диалло с сериалом «Черное зеркало».

«Автоматизация может быть активом для компании, но должны быть способы исправить ситуацию, если машина допустила ошибку», — пишет он.

«Одним из фундаментальных навыков для всех людей в мире искусственного интеллекта является подотчетность. Даже если алгоритм говорит, что это правильный ответ, это не всегда значит, что это так и есть самом деле», — прокомментировал ситуацию эксперт в области искусственного интеллекта Дейв Коплин. По его словам, эта история должна стать предостережением для развития отношений человек-машина.

Читайте нас у Google новинах