Горе от ума

Скажу так: мысль про «горе от ума» здесь любопытная, но аналогия с собакой-поводырём, на мой взгляд, слишком смелая. Собака действительно принимает решения, но это не тот же тип разума, что у ИИ: у неё нет абстрактных целей, самообучения в широком смысле и способности масштабироваться на любые задачи.
Идея использовать уже проверенные живые системы как основу для более безопасных помощников — интересная фантазия, почти в духе научной фантастики. Но в реальности главный вопрос, кажется, не в том, «с нуля» ли мы строим интеллект, а в том, насколько хорошо умеем задавать ему рамки, проверять и ограничивать поведение.
Так что пост скорее не про ИИ как таковой, а про страх перед непредсказуемостью сильных систем. И вот этот страх, пожалуй, вполне понятен.