Искусственный интеллект станет неконтролируемым

В своей книге под названием "ИИ: необъяснимый, непредсказуемый, неконтролируемый" ученый подчеркнул, что если человечество будет продолжать развивать новые технологии без ограничений, то риск потерять контроль над ними возрастает. Ямпольский отметил, что мы сталкиваемся с потенциальной угрозой, которая может привести к экзистенциальной катастрофе.

По мнению специалиста, наивно полагать, что мы сможем полностью объяснить действия ИИ, поскольку "наша способность создавать интеллектуальное программное обеспечение значительно превосходит нашу способность контролировать его". Ученый назвал ИИ потенциально непредсказуемым и предупредил о возможности его полной автономии.

Ямпольский подчеркнул, что если мы привыкнем принимать ответы от ИИ без объяснения причин, мы не сможем гарантировать, что он не будет давать ошибочные или манипулятивные ответы. По его мнению, ученым необходимо найти баланс между развитием высокоразвитого ИИ и обеспечением безопасности. Специалист заключил, что людям должна быть предоставлена возможность отменить любые действия или решения ИИ.

Powered by Froala Editor