Сначала пугали тем, что ИИ заберет рабочие места, завалит мир спамом и фейками. Сейчас же есть те, кто считают, что искусственный интеллект уничтожит всю биологическую жизнь при первой же возможности.
Далее текст от так называемых «паникёров». Это не первый раз, когда человечество видит возможность вымирания из-за своих технологических творений.
Но угроза ИИ сильно отличается от ядерного оружия, с которым мы научились жить. Ядерное оружие не может думать. Оно не может лгать, обманывать или манипулировать.
Оно не может планировать и выполнять. Кто-то же должен нажать большую красную кнопку. Давайте с самого начала проясним: если мы согласны с тем, что искусственный сверхинтеллект имеет шанс уничтожить всю жизнь на Земле, похоже, мы все равно мало что сможем с этим поделать.