|
|
|
|
|
|
|
|
| |
|
|
|
|
|
|
|
Прошу, господа.
Если можно, без хамства. |
|
|
| |
|
|
В качестве затравки. В далёких начале 90-х у нас в отделе, где я был студентом, было две любимых новых темы - квантовый транспорт в наноструктурах и нейронные сети.
Я выбрал квантовый транспорт.
Но и нейронные сети догнали наконец. 
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42652 |
|
|
|
|
Об ученых в области остро модной вариации искуственного интелекта. Моё понимание. Могу ошибаться.
Гигантский прогресс "ИИ" в последние менее чем 10 лет достигнут не учеными. Я бы людей, достигших этого прогресса даже инженерами не назвал. По методам и стилю мышления это скорее хорошие творческие ремесленники. Умельцы.
А ученые в этой сфере тоже есть. Отдельно от добившихся прогресса умельцев. Кстати, добившихся прогресса в области, которая топталась на месте немногим меньше лет, чем управляемый термоядерный синтез и значительно дольше, чем высокотемпературная сверхпроводимость. |
|
|
| номер сообщения: 49-58-42653 |
|
|
|
|
Ну как "топталась на месте". Мой друг 30 лет назад делал "рукосуйный аппарат" - систему определения человека по руке и глазу. И сделали как-то.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42654 |
|
|
|
|
Я точно помню, что мы хотели в 90-х сделать аналог нейронных сетей. А в результате всё это было смоделированно на обычных компьютерах через алгоритмы.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42656 |
|
|
|
|
FIBM: Как простейший пример: А0 использует Монте-Карло поиск. Это стандарт в серьезных задачах теоретической физики.
|
Теор. физики с подозрением относятся к моделям, содержащим даже сравнительно небольшое количество произвольно выбранных коэффициентов.
Я слышал, что у них даже пословицы есть про то, что многочленом седьмой степени что угодно описать можно.
А тут не седьмая степень. И даже не семьсот семьдесят седьмая.
FIBM:
Погуглите методы машинного обучения для изучения фазовых переходов, материалов,…На архиве сотни (тысячи) статей. |
Загугли! |
|
|
| номер сообщения: 49-58-42657 |
|
|
|
|
| Quantrinas: Я точно помню, что мы хотели в 90-х сделать аналог нейронных сетей. А в результате всё это было смоделированно на обычных компьютерах через алгоритмы. |
По правде говоря, там от нейронных сетей чисто название. Которое, видимо, было полезно на ранних этапах поиска финансирования. |
|
|
| номер сообщения: 49-58-42658 |
|
|
|
|
Michael_S: | Quantrinas: Я точно помню, что мы хотели в 90-х сделать аналог нейронных сетей. А в результате всё это было смоделированно на обычных компьютерах через алгоритмы. |
По правде говоря, там от нейронных сетей чисто название. Которое, видимо, было полезно на ранних этапах поиска финансирования. |
Ну вот именно. Но работает!
А мы то, грешные, хотели сделать нейронную сеть из джозефсоновских переходов.
Эх, как молоды мы были,
Как верили в себя.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42659 |
|
|
|
|
Quantrinas:
А мы то, грешные, хотели сделать нейронную сеть из джозефсоновских переходов.
Эх, как молоды мы были,
Как верили в себя.
|
А в чем проблема с «неверием в себя»? Сети для квантового компьютера будут (уже) работают именно на Дж. Переходах. Кстати вот еще одна страшилка для «футурологов». Можно уже сейчас начать переживать:
-что будет, если слон на кита нейронная сеть на квантовую сеть налезет.  |
|
|
| номер сообщения: 49-58-42661 |
|
|
|
|
Ну несколько кубитов работает.
Кстати, я предложил один из вариантов, правда тогда не было ещё кубитов, мы называли это fluxoid logic.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42662 |
|
|
|
|
| На текущий момент искусственный интеллект не может сообщить, чем я (или кто другой) занимаюсь (хотя любой человек, зайдя на персональный сайт видит это немедленно, как правило, в кратком изложении) и по-прежнему придумывает фейковые ссылки. В целом совершенно неясно, как проверить, правильно ли он ответил на вопрос, ответа на который мы не знаем. |
|
|
| номер сообщения: 49-58-42663 |
|
|
|
|
Michael_S: FIBM: Как простейший пример: А0 использует Монте-Карло поиск. Это стандарт в серьезных задачах теоретической физики.
|
Теор. физики с подозрением относятся к моделям, содержащим даже сравнительно небольшое количество произвольно выбранных коэффициентов.
Я слышал, что у них даже пословицы есть про то, что многочленом седьмой степени что угодно описать можно.
А тут не седьмая степень. И даже не семьсот семьдесят седьмая.
! |
Не совсем так. ТФ с подозрением относится к двум «вещам» (в контексте данной темы):
-изначальной модели, содержащей произвольные коэффициенты;
-к результатам, не имеющем даже минимального качественного объяснения;
А вот действия нейронной сети по исследованию изначальной модели могут быть практически любые, был бы результат хороший.
Так что подводя итоги: исследовать модели ИИ может как угодно, а вот создание изначальных моделей (или просто математическая формулировка задачи)+принятие решений на основе работы ИИ это не его ИИ собачье дело.
В переводе на «шахматный» язык: правила игры придумали люди, и объяснять (принимать) компьютерные решения дело людей. А выдавать первую линию это дело стока. И все будет хорошо. А вот, если сток начнёт влезать с криками «давайте отменим пат/рокировку», и человек будет всерьез это рассматривать, то дело плохо. |
|
|
| номер сообщения: 49-58-42664 |
|
|
|
|
ИИ в мою жизнь не вмешивается пока.
А вот ML (Machine Learning) попробовал вмешаться недавно, наш Rechenzentrum, то есть компьютерный центр, решил специализироваться на ML и предложил внести это в наши планы. Пришлось послать его куда положено, после чего всё вернулось к нормальной жизни.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42666 |
|
|
|
|
FIBM: Как простейший пример: А0 использует Монте-Карло поиск. Это стандарт в серьезных задачах теоретической физики.
|
АльфаЗеро уже не использует Монте-Карло. Это название досталось ей по наследству, и как раз начиная с АльфаЗеро элемент случайности в поиске полностью исчез. Теперь это совершенно детерминированный алгоритм.
Немного подробнее.
Когда-то давным-давно при программировании игры го существовала проблема написания оценочной функции. Если в шахматах при оценке позиции можно было посчитать хотя бы материал на доске, то в го даже это не работало.
В 2005 году придумали наконец проводить случайные (а впоследствии полуслучайные) розыгрыши из конечных позиций дерева перебора до конца партии - до конечного результата. Статистика побед и поражений в таких розыгрышах и стала использоваться вместо оценочной функции.
В АльфаГо появилась возможность получать оценку позиции из нейросети и необходимость в случайных доигрышах отпала. Первое время обе оценки просто смешивали в определенной пропорции. Но в АльфаЗеро от такого смешивания отказались, положившись полностью на оценку нейросети. Поскольку оценка детерминирована и формирование дерева перебора тоже, то сейчас Монте-Карло по факту не используется.
Старое название осталось, но современный алгоритм поиска по дереву вариантов можно назвать если только псевдослучайным. |
|
|
| номер сообщения: 49-58-42669 |
|
|
|
|
Rom77: FIBM: Как простейший пример: А0 использует Монте-Карло поиск. Это стандарт в серьезных задачах теоретической физики.
|
АльфаЗеро уже не использует Монте-Карло. Это название досталось ей по наследству, и как раз начиная с АльфаЗеро элемент случайности в поиске полностью исчез. Теперь это совершенно детерминированный алгоритм.
|
1. Да, а это что такое?
"Instead of an alpha-beta search with domain-specific enhancements, AlphaZero uses a generalpurpose Monte-Carlo tree search (MCTS) algorithm." (из статьи 2017 года)
2. Почитайте внимательно на какой пост был мой ответ. Это был простейший пример, показывающий, что работы по машинному обучению не так далеки от ТФ как кажется многим (или некоторым ). А совсем не то, что я предлагаю ИИ обязать использовать Монте-Карло метод . |
|
|
| номер сообщения: 49-58-42670 |
|
|
|
|
| jenya: В целом совершенно неясно, как проверить, правильно ли он ответил на вопрос, ответа на который мы не знаем. |
Если относится к результату, полученному ИИ не как к точному ответу на вопрос, а как к предсказанию определенного результата, то "неясность" исчезает. |
|
|
| номер сообщения: 49-58-42671 |
|
|
|
|
| Обсуждение деловых качеств Юдковского было намного более бурным, чем обсуждение свойств ИИ. Впрочем, люди все еще интересней довольного пока примитивного, лишенного амбиций, чувств и эмоций ИИ. |
|
|
| номер сообщения: 49-58-42672 |
|
|
|
|
FIBM: | jenya: В целом совершенно неясно, как проверить, правильно ли он ответил на вопрос, ответа на который мы не знаем. |
Если относится к результату, полученному ИИ не как к точному ответу на вопрос, а как к предсказанию определенного результата, то "неясность" исчезает. |
Если пока он предсказывает, что я занимаюсь наномагнетизмом, то и к другим предсказаниям отношение соответствующее. |
|
|
| номер сообщения: 49-58-42673 |
|
|
|
|
Когда Искусственному Интеллекту будет поручено управление глобальными транспортными потоками, и, неизбежно, ему придется принимать решения о жизни людей в дорожных инцидентах, какого типа "судью" Вы бы предпочли, почтенный Пиррон.
- такого, который всегда принимает однозначные решения на основе каким-то образом упорядоченных вводных (степень личной виновности, количество возможных жертв, возраст, и т.д.)
- или с теми же вводными, но помощью вероятностной функции дающего некоторый шанс всем? |
|
|
| номер сообщения: 49-58-42674 |
|
|
|
|
| Кстати, эта тема обсуждалась ещё до новых чатботов. В настройках беспилотных машин было обнаружено требование супер-резко затормозить, если кто перебегает дорогу, что может вызвать аварию со смертью пассажира. |
|
|
| номер сообщения: 49-58-42675 |
|
|
|
|
| Когда-то грузовик врезался на полном ходу в стоявшую перед поворотом машину, в которой сидели моя жена и сын. Удивительным образом жена отделалась синяками. а сын вообще не пострадал, даже не испугался. Впрочем, он и не мог тогда в полной мере осознавать, какой опасности избежал. Если б кто-то в тот момент сидел на заднем сиденье, его бы раздавило всмятку. Водитель грузовика потом объяснял, что он как раз в это время наклонился, чтобы достать из-под сиденья бутылку с водой, и стоявшей впереди машины не заметил. Поскольку никто всерьез не пострадал, судья приговорил его к символическому штрафу. Как-то я, Билли, не слишком доверяю таким судьям. Если их заменит ИИ, хуже, наверно, не будет. |
|
|
| номер сообщения: 49-58-42676 |
|
|
|
|
Имеется в виду не после, а в режиме реального времени. То есть дали бы Вы возможность ИИ дать шанс этому водителю грузовика, или всегда направляли бы его прямо в ближайший столб? (разумеется, вопрос общий. С участием Вашей семьи ответ ясен)
П.С. Хотя и после тема интересная :) |
|
|
| номер сообщения: 49-58-42677 |
|
|
|
|
| Насчет режима реального времени мне трудно судить: в России со мной никаких дорожных происшествий не случалось, а немцы с их менталитетом как бы объединяют в таких ситуациях недостатки ИИ с недостатками живых организмов. Впрочем, возможно, те, у кого нет недостатков ИИ, были бы еще хуже. |
|
|
| номер сообщения: 49-58-42678 |
|
|
|
|
| Вы, Билли, потом уточнили свой вопрос, а я этого уточнения не видел. Нет, я не дал бы этому ИИ никакой свободы: пусть судит всегда на основании однозначных четких критериев . А иначе зачем он нужен? Но из этого ведь не следует, что он будет всегда принимать только самые жесткие решения. |
|
|
| номер сообщения: 49-58-42679 |
|
|
|
|
jenya: FIBM: | jenya: В целом совершенно неясно, как проверить, правильно ли он ответил на вопрос, ответа на который мы не знаем. |
Если относится к результату, полученному ИИ не как к точному ответу на вопрос, а как к предсказанию определенного результата, то "неясность" исчезает. |
Если пока он предсказывает, что я занимаюсь наномагнетизмом, то и к другим предсказаниям отношение соответствующее. |
1. Если этот конкретный ИИ «полный дуб», то это не означает что можно огульно обвинять (обижать) другие ИИ.
2. Кстати вполне нормальная научная практика. ИИ делает предсказания, пытается рассказать об этом в приличном месте. «Предсказания» попадают на рецензию к jenya; объективная рецензия-«предсказания» идут в мусорную корзину. Но ИИ упорствует и отправляет «предсказания» в СМИ с мусорным (научным) рейтингом. |
|
|
| номер сообщения: 49-58-42680 |
|
|
|
|
FIBM: Rom77: FIBM: Как простейший пример: А0 использует Монте-Карло поиск. Это стандарт в серьезных задачах теоретической физики.
|
АльфаЗеро уже не использует Монте-Карло. Это название досталось ей по наследству, и как раз начиная с АльфаЗеро элемент случайности в поиске полностью исчез. Теперь это совершенно детерминированный алгоритм.
|
1. Да, а это что такое?
"Instead of an alpha-beta search with domain-specific enhancements, AlphaZero uses a generalpurpose Monte-Carlo tree search (MCTS) algorithm." (из статьи 2017 года) |
В том и дело, что от Монте-Карло там осталось одно название.
2. Почитайте внимательно на какой пост был мой ответ. Это был простейший пример, показывающий, что работы по машинному обучению не так далеки от ТФ как кажется многим (или некоторым ). А совсем не то, что я предлагаю ИИ обязать использовать Монте-Карло метод . |
Не вопрос - просто к слову пришлось. Я понимаю, что это был пример. |
|
|
| номер сообщения: 49-58-42681 |
|
|
|
|
Не претендую на оригинальность…
По моим (беглым) наблюдениям, очень часто происходит подмена понятий: решения, принимаемые хорошим компьютером / алгоритмом, vs. решения, принимаемые ИИ.
Иногда, действительно, трудно определить, где заканчивается компьютер и начинается ИИ, и наоборот. Тем более, что компьютер на самом деле не «кончается», а продолжается в ИИ.
Некоторые считают, что ИИ начинается, когда компьютер начинает учиться, сам определяя ЧЕМУ и КАК. Или (и) генерирует алгоритмы, сам определяя ЧЕГО и КАК. |
|
|
| номер сообщения: 49-58-42682 |
|
|
|
|
Rom77:
Не вопрос - просто к слову пришлось. Я понимаю, что это был пример. |
 |
|
|
| номер сообщения: 49-58-42683 |
|
|
|
|
| Pirron: Нет, я не дал бы этому ИИ никакой свободы: пусть судит всегда на основании однозначных четких критериев . А иначе зачем он нужен? |
Несколько лет подряд привлекался в гражданский суд народным заседателем. Один месяц в год отдавал Фемиде. Из своего опыта могу утверждать, что жизнь в математический алгоритм не влезает.
Возможно, в уголовном праве с этим делом легче, но не думаю.
__________________________
Спасение там, где опасность. |
|
|
| номер сообщения: 49-58-42684 |
|
|
|
|
Некоторым роботам человечество давно уже передало право однозначно решать, что делать. Например, абсолютному большинству лифтов - не открывать двери между этажами никогда, даже в случае пожара.
Мой вопрос касался того, сможет ли ИИ хотя бы сымитировать человеческое, а не только соблюсти букву закона (зашел в лифт во время пожара - не жалуйся, переходишь дорогу на красный свет - так кто ж тебе доктор и т.п.)
Человеческий интеллект, исключая паталогии, реагирует в таких случаях однозначно против правил. |
|
|
| номер сообщения: 49-58-42685 |
|
|
|
|
| Ну, если не входит жизнь в математический алгоритм, то незачем и поручать тогда такие дела ИИ. А если уж поручать, то так, чтобы он не пришел к выводам, непостижимым для человеческого разума. Но вообще это совершенно чуждая мне тема: Билли, я думаю, имеет о ней намного более ясное представление, чем я. поскольку я вообще никакого представления о ней не имею. Но он предложил для анализа такую ситуацию, которая, скорее всего, возникнет еще не скоро. Ей, если она вообще возникнет, должен предшествовать такой период, когда люди знакомятся с возможностями ИИ в таких вопросах, используя его мнение разве что в качестве рекомендации, да и то с осторожностью. |
|
|
| номер сообщения: 49-58-42686 |
|
|
| |
|
|
|
|
|
|
|
| Copyright chesspro.ru 2004-2024 гг. |
|
|
|
