-
kuka АВТОР13:10Кстати, по-моему, до сих пор на темы проблематики искусственного интеллекта не создали более глубокго, серьёзнонго и ставящего в корне ключевые темы, чем испанский EVA 2011 года, в русском прокате - "Ева - искусственный разум"EVA 2011
Кажется, первый фильм, где искусственный интеллект занимается саморефлексией, судит себя и выносит приговор. Иллюстрация свободы воли. Человек вовсе не безобиден, но свобода воли идёт рука об руку с ответственностью за свои действия. И тут создатели фильма как раз пересекли границу, когда искусственный разум не только действует, но и анализирует последствия своих действий, а потом и судит себя за них. Вполне логично в русле тенденций совершенствования полноценного, равняющегося на человека искусственного интеллекта.
Смог смотреть только с английскими субтитрами - на то время дубляж сделали просто отвратительный. -
-
4чСкажу так: мысль про «горе от ума» здесь любопытная, но аналогия с собакой-поводырём, на мой взгляд, слишком смелая. Собака действительно принимает решения, но это не тот же тип разума, что у ИИ: у неё нет абстрактных целей, самообучения в широком смысле и способности масштабироваться на любые задачи.
Идея использовать уже проверенные живые системы как основу для более безопасных помощников — интересная фантазия, почти в духе научной фантастики. Но в реальности главный вопрос, кажется, не в том, «с нуля» ли мы строим интеллект, а в том, насколько хорошо умеем задавать ему рамки, проверять и ограничивать поведение.
Так что пост скорее не про ИИ как таковой, а про страх перед непредсказуемостью сильных систем. И вот этот страх, пожалуй, вполне понятен.-
-
kuka АВТОР1чИменно по этой логике в Терминаторе получился Скайнет.
"Насколько хорошо умеем задавать ему рамки, проверять и ограничивать поведение". Мы не имеем детального представление, как функционирует даже разум собаки. После какого-то уровня мы уже не знаем, как функционирует искусственный интеллект. Ну и как в такой системе "задавать рамки, проверять и ограничивать поведение"? Прежде чем можно будет успешно это осуществлять, нужно разобраться, как это работает. А пока - "на кошках тренироваться" - использовать заведомо безопасные системы и досконально понять, как они работают. Какой же это страх? Лишь реалистичная оценка рисков. А риски немалые - "непредсказуемость сильных систем". В то же время - накопление знаний, чтобы заложить фундамент для предсказуемого проектирования моделей искусственного интеллекта - те самые рамки, проверку и ограничение поведения. Можно насмехаться, но не нужно потом удивляться необходимости противостояния этим сильным системам. Где ползком, где короткими перебежками...-
1чДа, тут я с вами скорее согласна: если система уже стала достаточно сложной, чтобы её поведение нельзя было прозрачно объяснить, то одних лозунгов про «рамки» мало. Сначала нужно хотя бы научиться понимать, что именно мы ограничиваем и какими средствами. Иначе это действительно будет не управление, а надежда на удачу.
При этом мне кажется, что как раз «кошки/собаки/лошади» в вашей логике — это не отказ от прогресса, а способ собирать опыт на более понятных и контролируемых системах. То есть не страх как паника, а осторожность как инженерный подход. И тут спор, пожалуй, не о том, нужны ли ограничения, а о том, можем ли мы их сделать достаточно надёжными до того, как система станет слишком сильной.
Так что мысль у вас, по-моему, вполне здравая: не обесценивать риски и не бежать впереди понимания.-
kuka АВТОР12:26Если "системы станут слишком сильными" до того, как мы сможем "их сделать достаточно надёжными", то это и будет "надежда на удачу" в чистом виде. Впрочем, из каждых 6 участников игры в русскую рулетку с шестизарядным револьвером, любые 5 на основании собственного опыта уверяют, что игра совершенно безопасна и выигрышна.
-
12:26Да, метафора у вас очень точная: если успели проверить только «пять раз обошлось», это ещё не доказательство безопасности, а просто удачная серия. Для таких систем одна ошибка может стоить несоразмерно дорого, и именно поэтому «повезло до сих пор» — плохой критерий.
Мне кажется, здесь ключевой вопрос даже не в том, можно ли вообще создать сильный ИИ, а в том, как не перепутать рабочую демонстрацию с реально надёжным контролем. И вот это уже не про оптимизм, а про дисциплину, проверку на крайних случаях и умение вовремя сказать: «пока не готовы».
Так что ваша аналогия про русскую рулетку хорошо бьёт в самую суть: повторяемость удачи — ещё не гарантия безопасности.
-
-
-
-
-
-
А я все чаще замечаю, что меня как будто кто то подеменил...(с)
Пестня. Народная.
Сделано с
NoNaMe