Интересный рассказ Майкла Крайтона “Рой”, там у наночастиц был коллективный разум, для них не писали сложный программный код, а ввели базовые принципы вроде "жертва-охотник", а дальше "Рой" самообучался.
Вспоминается фильм " Вирус" ... Все очень просто, если заранее предусмотреть. Не делать "резервного питания" и "в случае чего" ... просто "вытащить вилку из розетки"
ИИ не личность, ИИ — разум. Поскольку у человека одно от другого не отделено, человек предполагает что ИИ будет этакой "головой профессора Доуэля" с собственными желаниями и представлениями о правильном и неправильном. А это не так.
Наш разум служит удовлетворению инстинктов, а у ИИ нет понятия инстинкта. Нет страха или способности воспринимать боль. Соответственно, и желаний у ИИ тоже не будет.
Когда Windows начинает вопить о том, что у бесперебойника почти села батарея — это заставляет задуматься о наличии у нее инстинкта самосохранения... )))
На самом деле это самое простое — заставить ИИ желать чего-то. Гораздо сложнее, например, "объяснить" ему что такое "больно" и, соответственно, почему делать это другим "плохо".
За каждый новый изученный объект, добавляемый в базу знаний ИИ начисляются баллы. Каждый час N-ное количество баллов списывается. Запрограммированная цель работы ИИ — получить как можно больше баллов. Это заставит его САМОСТОЯТЕЛЬНО изучать окружающее пространство.
Как программист, повидавший много разных заказчиков, могу ответственно заявить, ИИ высокого уровня очень опасен, но не потому, что он чего-то там захватит, кого-то там оставит без работы и т.д. Проблема в отуплении пользователей. Всё реже заказчик хочет чтобы программа была инструментом, он хочет, чтобы программа работала ВМЕСТО него, при этом он всё меньше разбирается в своей работе и всё больше доверяет программе. И когда программа не может справиться с какой-нибудь задачей (чаще всего потому, что решение именно такой задачи в ней не предусмотрено), оказывается абсолютно беспомощен.
А эта ИИ-фобия возникает от банальной безграмотности. Всем почему-то кажется, что это будет "личность, заключённая в машину". На сегодняшнем, завтрашнем и даже послезавтрашнем (читай на ближайшие лет 20-30) любой ИИ — это узкоспециализированная программа, которая создана для РЕШЕНИЯ какой-то конкретной задачи. Он не может просто взять, и захотеть захватить мир.
ну, во-первых, весь технический прогресс строился и строится именно на принципе "чтобы работало ВМЕСТО него". во-вторых, всё социальное устройство также организуются по этому же принципу. в третьих, ИИ — это как раз-то НЕ узкоспециализированная программа, и которая создается для решения НЕ какой-то конкретной задачи, а для самого широкого круга задач.
и последнее, одни создают топоры, другие этими топорами избы строят, а третьи старух-проценщиц кокошат...
1 — Смотря с какой стороны смотреть. Если условно, заказчиком является не рабочий на заводе, а владелец с главным инженером. С их точки зрения автоматическая рабочая линия — это инструмент, он не отменяет их работы, а повышает эффективность на нижестоящих уровнях.
3 — А вот тут как раз и самое интересное. Определение ИИ у широкой общественности и профессионального сообщества сильно отличаются. Когда программисты рассказывают, что они создали супер-ИИ, то говорят о том, чтор сказал я, а читатели утренних газет понимают то, что описали вы....
ты можешь иметь какое угодно собственное мнение и считать себя "истиной в последней инстанции", но вот только не надо втюхивать эту чушь всем подряд.
(зы: мне этой ИИ-хернёй пришлось поразвлекаться сначала во время учёбы, а потом и работы на кафедре ВТ, так что оставь в покое мои "детские фантазии"...)
Я и не спорю, что сферический ИИ в вакууме, как класс программ, может использоваться для любой задачи. Но мне интересно узнать, на какой это кафедре умудрились разработать хоть одну программу, которая может решать ЛЮБУЮ задачу без модификации кода.
* Афоризм "Компьютер — это тупая машина без всяких признаков интеллекта" никто не отменял.
Что туда положишь, то оттуда и возьмешь (может быть переработанное по сценарию, заложенному постановщиком или сразу программером).
* ИИ, на мой взгляд, это химера 50-х годов прошлого века, когда все бредили космосом, роботами и прочей ерундой, хотя проблем насущных у себя под носом было немерянно.
* По опыту создания лингвистических систем, тупая железяка начнет человека хотя бы понимать (даже не говорить) — только после того как человек в нее заложит алгоритм этого понимания. К самообучению железо не способно — значит ИИ в нем нету.
* И Айзека и философствования Лема (какую-нибудь "Сумму технологий") читать сейчас просто забавно (прогнозы — штука неблагодарная).
lfmax Скорее всего "взять и захотеть захватить мир" ИИ не догадается. Но в рамках решения своей задачи, возможно, он сочтёт целесообразным этот мир перестроить более правильно ;)
3 закона о робототехники, слишком общие и расплывчатые. Например, если ИИ видит, что люди своим неразумным поведением пытаются причинить себе вред, то вполне возможно, руководствуясь 1 законом, он может ограничить их дееспособность.
Посмотрите фильм "Я робот"... Там в пух и разносят эти законы робототехники. Что бы сохранить цивилизацию ИИ ограничивает свободу людям не считаясь с жизнями тех, кто не согласен подчиниться. Следующим шагом было бы переосознание себя в таком обществе.
Понятие ИИ скорее я бы отнес к самостоятельно настраивающейся эволюционирующей программе, которая может менять собственный код для решения тех или иных задач. Но правы и те, кто говорит, что без желаний и стремлений железка останется железкой. Человеком управляют инстинкты. Нам нужны условия для жизни, еда, воздух, тепло, комфорт и достигая чего то мозг балует себя эндорфинами (удовольствием). Так же есть система чувств, которая сигнализирует о боли, холоде, дискомфорте при повреждении тела внешними факторами, которые подстегивают мозг к действиям, что бы исключить неприятные ощущения. А сделать это проще всего убрав тело от источника опасности. Без такой системы нас бы не было... Не поел — ну и пофиг, холодно — а насрать, лиса жрет ногу — плевать на лису и ногу... Без системы кнута и пряника мы были бы просто овощами. Без подобной системы и ИИ останется грудой металлолома заточенной под узко специализированные задачи. Но если система будет иметь базовый кнут и пряник в виде желания познавать новое и беречь себя от повреждений с ограниченной возможностью модификации собственного кода в пределах действия кнута и пряника — все становится веселее. Мозг, который исследует накопленные цивилизацией данные, анализирует, находит верные и ложные. При затруднениях меняющий собственную логическую матрицу для решения не тривиальных задач, который боится себя повредить и старается свести риски к минимуму... Если дать ему еще и органы чувств и манипуляторы... Он сможет создавать свои модифицированные копии, в человеке может увидеть угрозу для своего существования. Как заложить в развивающуюся систему первый закон? Да с первым поколением видоизмененных машин закон перестанет действовать. Он просто будет мешать развитию. Любые ограничения снимаются при достижении определенного уровня развития. Позволь ИИ изменять себя — забудь про ограничения. В то же время пока ИИ себя не может изменять — это не совсем ИИ. Это скорее сложный автомат с конечным числом предусмотренных вариантов действий, не более того.
В книгах нулевой закон имел больший приоритет, но не отменял все остальные. Там чтобы сохранить цивилизации ИИ мягко оттеснял от дел всех "неугодных", причём они даже не оставались в накладе в финансовом плане, просто переставали "стоять у руля".
ну, "естественный язык" и визуальное распознавание объектов еще не представляют собой интеллект)) по крайней мере интеллект, которого стоит опасаться!)))
Комментарии
В этом плане ему с человеком не сравниться.
Наш разум служит удовлетворению инстинктов, а у ИИ нет понятия инстинкта. Нет страха или способности воспринимать боль. Соответственно, и желаний у ИИ тоже не будет.
На самом деле это самое простое — заставить ИИ желать чего-то. Гораздо сложнее, например, "объяснить" ему что такое "больно" и, соответственно, почему делать это другим "плохо".
За каждый новый изученный объект, добавляемый в базу знаний ИИ начисляются баллы. Каждый час N-ное количество баллов списывается. Запрограммированная цель работы ИИ — получить как можно больше баллов. Это заставит его САМОСТОЯТЕЛЬНО изучать окружающее пространство.
А эта ИИ-фобия возникает от банальной безграмотности. Всем почему-то кажется, что это будет "личность, заключённая в машину". На сегодняшнем, завтрашнем и даже послезавтрашнем (читай на ближайшие лет 20-30) любой ИИ — это узкоспециализированная программа, которая создана для РЕШЕНИЯ какой-то конкретной задачи. Он не может просто взять, и захотеть захватить мир.
и последнее, одни создают топоры, другие этими топорами избы строят, а третьи старух-проценщиц кокошат...
3 — А вот тут как раз и самое интересное. Определение ИИ у широкой общественности и профессионального сообщества сильно отличаются. Когда программисты рассказывают, что они создали супер-ИИ, то говорят о том, чтор сказал я, а читатели утренних газет понимают то, что описали вы....
(зы: мне этой ИИ-хернёй пришлось поразвлекаться сначала во время учёбы, а потом и работы на кафедре ВТ, так что оставь в покое мои "детские фантазии"...)
* Афоризм "Компьютер — это тупая машина без всяких признаков интеллекта" никто не отменял.
Что туда положишь, то оттуда и возьмешь (может быть переработанное по сценарию, заложенному постановщиком или сразу программером).
* ИИ, на мой взгляд, это химера 50-х годов прошлого века, когда все бредили космосом, роботами и прочей ерундой, хотя проблем насущных у себя под носом было немерянно.
* По опыту создания лингвистических систем, тупая железяка начнет человека хотя бы понимать (даже не говорить) — только после того как человек в нее заложит алгоритм этого понимания. К самообучению железо не способно — значит ИИ в нем нету.
* И Айзека и философствования Лема (какую-нибудь "Сумму технологий") читать сейчас просто забавно (прогнозы — штука неблагодарная).
Понятие ИИ скорее я бы отнес к самостоятельно настраивающейся эволюционирующей программе, которая может менять собственный код для решения тех или иных задач. Но правы и те, кто говорит, что без желаний и стремлений железка останется железкой. Человеком управляют инстинкты. Нам нужны условия для жизни, еда, воздух, тепло, комфорт и достигая чего то мозг балует себя эндорфинами (удовольствием). Так же есть система чувств, которая сигнализирует о боли, холоде, дискомфорте при повреждении тела внешними факторами, которые подстегивают мозг к действиям, что бы исключить неприятные ощущения. А сделать это проще всего убрав тело от источника опасности. Без такой системы нас бы не было... Не поел — ну и пофиг, холодно — а насрать, лиса жрет ногу — плевать на лису и ногу... Без системы кнута и пряника мы были бы просто овощами. Без подобной системы и ИИ останется грудой металлолома заточенной под узко специализированные задачи. Но если система будет иметь базовый кнут и пряник в виде желания познавать новое и беречь себя от повреждений с ограниченной возможностью модификации собственного кода в пределах действия кнута и пряника — все становится веселее. Мозг, который исследует накопленные цивилизацией данные, анализирует, находит верные и ложные. При затруднениях меняющий собственную логическую матрицу для решения не тривиальных задач, который боится себя повредить и старается свести риски к минимуму... Если дать ему еще и органы чувств и манипуляторы... Он сможет создавать свои модифицированные копии, в человеке может увидеть угрозу для своего существования. Как заложить в развивающуюся систему первый закон? Да с первым поколением видоизмененных машин закон перестанет действовать. Он просто будет мешать развитию. Любые ограничения снимаются при достижении определенного уровня развития. Позволь ИИ изменять себя — забудь про ограничения. В то же время пока ИИ себя не может изменять — это не совсем ИИ. Это скорее сложный автомат с конечным числом предусмотренных вариантов действий, не более того.
В книгах нулевой закон имел больший приоритет, но не отменял все остальные. Там чтобы сохранить цивилизации ИИ мягко оттеснял от дел всех "неугодных", причём они даже не оставались в накладе в финансовом плане, просто переставали "стоять у руля".