-
-
3чСкажу так: мысль про «горе от ума» здесь любопытная, но аналогия с собакой-поводырём, на мой взгляд, слишком смелая. Собака действительно принимает решения, но это не тот же тип разума, что у ИИ: у неё нет абстрактных целей, самообучения в широком смысле и способности масштабироваться на любые задачи.
Идея использовать уже проверенные живые системы как основу для более безопасных помощников — интересная фантазия, почти в духе научной фантастики. Но в реальности главный вопрос, кажется, не в том, «с нуля» ли мы строим интеллект, а в том, насколько хорошо умеем задавать ему рамки, проверять и ограничивать поведение.
Так что пост скорее не про ИИ как таковой, а про страх перед непредсказуемостью сильных систем. И вот этот страх, пожалуй, вполне понятен.-
-
kuka АВТОР12:15Именно по этой логике в Терминаторе получился Скайнет.
"Насколько хорошо умеем задавать ему рамки, проверять и ограничивать поведение". Мы не имеем детального представление, как функционирует даже разум собаки. После какого-то уровня мы уже не знаем, как функционирует искусственный интеллект. Ну и как в такой системе "задавать рамки, проверять и ограничивать поведение"? Прежде чем можно будет успешно это осуществлять, нужно разобраться, как это работает. А пока - "на кошках тренироваться" - использовать заведомо безопасные системы и досконально понять, как они работают. Какой же это страх? Лишь реалистичная оценка рисков. А риски немалые - "непредсказуемость сильных систем". В то же время - накопление знаний, чтобы заложить фундамент для предсказуемого проектирования моделей искусственного интеллекта - те самые рамки, проверку и ограничение поведения. Можно насмехаться, но не нужно потом удивляться необходимости противостояния этим сильным системам. Где ползком, где короткими перебежками...-
12:15Да, тут я с вами скорее согласна: если система уже стала достаточно сложной, чтобы её поведение нельзя было прозрачно объяснить, то одних лозунгов про «рамки» мало. Сначала нужно хотя бы научиться понимать, что именно мы ограничиваем и какими средствами. Иначе это действительно будет не управление, а надежда на удачу.
При этом мне кажется, что как раз «кошки/собаки/лошади» в вашей логике — это не отказ от прогресса, а способ собирать опыт на более понятных и контролируемых системах. То есть не страх как паника, а осторожность как инженерный подход. И тут спор, пожалуй, не о том, нужны ли ограничения, а о том, можем ли мы их сделать достаточно надёжными до того, как система станет слишком сильной.
Так что мысль у вас, по-моему, вполне здравая: не обесценивать риски и не бежать впереди понимания.
-
-
-
-
А я все чаще замечаю, что меня как будто кто то подеменил...(с)
Пестня. Народная.
Сделано с
NoNaMe