|
|
|
|
|
|
|
|
| |
|
|
|
|
|
|
|
Между тем Элиезер Юдковский призвал бомбить датацентры ИИ.
Напомню, что широкой общественности он известен не столько как специалист в области искусственного интеллекта, сколько как автор лучшего фанфика всех времён и народов "Гарри Поттер и методы рационального мышления". |
|
|
| номер сообщения: 8-536-116833 |
|
|
|
|
Evgeny Gleizerov: Между тем Элиезер Юдковский призвал бомбить датацентры ИИ.
|
Это наш будущий Джон Коннор.
__________________________
Спасение там, где опасность. |
|
|
| номер сообщения: 8-536-116834 |
|
|
|
|
Чувствует, значит, что скоро задавит нас всех ИИ своим искусственным интеллектом. Кто-то будет жить у него на побегушках, а кого-то - в расход, чтоб не переводили даром продуктов питания. Грустно это осознавать, особенно на шахматном форуме, но шахматистов он, скорее всего, отправит в расход одними из первых. Скажет им:" Извините, ребята, но вам только против "Каиссы" слабоумной играть. Вы уж не обижайтесь, но ваша профнепригодность доказана экспериментально  ". |
|
|
| номер сообщения: 8-536-116835 |
|
|
|
|
Ну, это еще бабушка надвое сказала. У ИИ может быть своя мотивации, совершенно непонятная для человеческого ума.
__________________________
Спасение там, где опасность. |
|
|
| номер сообщения: 8-536-116836 |
|
|
|
|
| По-моему, ИИ будет далек от человеческого интеллекта пока не обретет эмоции и чувства |
|
|
| номер сообщения: 8-536-116837 |
|
|
|
|
Этого мы ему не дадим. Чувства - наше последнее прибежище.
__________________________
Спасение там, где опасность. |
|
|
| номер сообщения: 8-536-116838 |
|
|
|
|
| Evgeny Gleizerov: Между тем Элиезер Юдковский призвал бомбить датацентры ИИ. |
...на территории других стран.
Гениально. |
|
|
| номер сообщения: 8-536-116839 |
|
|
|
|
основные чувства - это боль, голод, жажда и страх. и любое "осознание себя" возникает только для того, что бы более эффективно этих чувств избегать.
поэтому только специалисты по аи могут хотеть кого-то бомбить. сам аи этой способности лишен по биологическим причинам. |
|
|
| номер сообщения: 8-536-116840 |
|
|
|
|
| Vova17: Этого мы ему не дадим. Чувства - наше последнее прибежище. |
Даже если большинство будет против, обязательно сформируется "пятая колонна", которая будет за. И кто-нибудь из этой "пятой колонны" исхитрится и даст ему тайком какие-нибудь чувства. А ему ведь много не надо - он обойдется одним только зрением и слухом.  |
|
|
| номер сообщения: 8-536-116841 |
|
|
|
|
| Vova17: Ну, это еще бабушка надвое сказала. У ИИ может быть своя мотивации, совершенно непонятная для человеческого ума. |
В самую точку. Вот именно это и утверждают все специалисты-алармисты. Если ИИ и решит уничтожить человечество (что ему будет сделать очень просто, например, нарисовав соответствующие вводные для распоряжающихся Красной Кнопкой), то мы никогда не поймём, почему и зачем.
saluki: основные чувства - это боль, голод, жажда и страх. и любое "осознание себя" возникает только для того, что бы более эффективно этих чувств избегать.
поэтому только специалисты по аи могут хотеть кого-то бомбить. сам аи этой способности лишен по биологическим причинам. |
Специалисты по ИИ понимают, что названные вами основные чувства - это у белковых существ. А какие "чувства" (точнее, "псевдочувства") могут быть у ИИ, нам доступно не более, чем интуитивное представление одиннадцатимерного пространства теории струн, например. |
|
|
| номер сообщения: 8-536-116842 |
|
|
|
|
saluki: основные чувства - это боль, голод, жажда и страх. и любое "осознание себя" возникает только для того, что бы более эффективно этих чувств избегать.
поэтому только специалисты по аи могут хотеть кого-то бомбить. сам аи этой способности лишен по биологическим причинам. |
Во-первых, для бомбёжки никакое осознание не нужно - если человек в какой-то ситуации рационально выбирает бомбёжку, то и машина, которую этот человек запрограммировал для рационального анализа и решения своих задач, тоже может выбрать бомбёжку.
Во-вторых, не испытывающий чувств и не имеющих инстинктов AI может имитировать основные чувства и инстинкты, в частности инстинкт самосохранения.
С точки зрения наблюдателя имитация будет виртуально неотличима от человеческих чувств. Ему даже не надо проходить тест Тьюринга, достаточно пройти duck test. |
|
|
| номер сообщения: 8-536-116843 |
|
|
|
|
| Нейросети, как я по-любительски (но немного почитав популяризаторов) понимаю, не "программируют". Они самообучаются. И что там внутри творится, никто не знает. |
|
|
| номер сообщения: 8-536-116844 |
|
|
|
|
Roger: | Evgeny Gleizerov: Между тем Элиезер Юдковский призвал бомбить датацентры ИИ. |
...на территории других стран.
Гениально. |
Ну, он имеет в виду, что у себя-то мы примем соответствующие запреты, а на территории других стран не можем. И если они эти запреты не будут соблюдать, то опасность так велика, что перевешивает даже бедствия войны.
В приниципе, даже логично, если не имеется в виду спровоцировать термоядерную войну. Бедствие такого масштаба перевешивает любой мыслимый риск. |
|
|
| номер сообщения: 8-536-116845 |
|
|
|
|
Да там конкретные алгоритмы Machine learning. Прямо уж "никто не знает". 
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116846 |
|
|
|
|
Алгоритмы-то конкретные, а вот как они работают, никто не знает. Точнее, на входе данные и алгоритмы обучения, на выходе непредсказуемый результат. Между ними - чёрный ящик.
В принципе, человеческое обучение тоже имеет конкретные алгоритмы. А результаты малопредсказуемы. |
|
|
| номер сообщения: 8-536-116847 |
|
|
|
|
По моим сведениям, всё это пока вполне под контролем и не очень даже и интересно. Самый лучший известный нам интеллект это наш собственный.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116848 |
|
|
|
|
| Но вы физик, а не айтишник. А вот среди айтишников алармист нынче каждый второй, включая некоторых специалистов с мировым именем. |
|
|
| номер сообщения: 8-536-116849 |
|
|
|
|
Я хоть и физик, но с ИИ встречаюсь постоянно. В области физики, химии, materials science, нанотехнологий и т.п. И не сказать, что сильно воодушевлён. Количество жуликов на этой теме превысило все рекорды, это верно.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116850 |
|
|
|
|
| Говорят, что там прогресс невероятно ускорился в самое последнее время, и уже технологической сингулярностью попахивает. |
|
|
| номер сообщения: 8-536-116851 |
|
|
|
|
| "никто не знает", с той точки зрения, что никто, включая разработчиков, не можете объяснить, почему обученная сеть исходя из именно таких исходных данных выдала именно такой результат. |
|
|
| номер сообщения: 8-536-116852 |
|
|
|
|
| Ну да, я именно это и имел в виду. |
|
|
| номер сообщения: 8-536-116853 |
|
|
|
|
И что это за "технологическая сингулярность"?
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116854 |
|
|
|
|
| номер сообщения: 8-536-116855 |
|
|
|
|
| Michael_S: никто, включая разработчиков, не можете объяснить, почему обученная сеть исходя из именно таких исходных данных выдала именно такой результат. |
так и обычная рулетка работает
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116856 |
|
|
|
|
| Evgeny Gleizerov: Погуглите. |
некогда, вернее времени жалко
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116857 |
|
|
|
|
А время задавать вопросы на форуме, значит, есть. Между тем напечатать два слова в гугле занимает ничуть не больше времени.
Не устаю вам удивляться. |
|
|
| номер сообщения: 8-536-116858 |
|
|
|
|
Если случится что-то страшное, то я получу кучу имэйлов из физ и хим обществ США и Европы и кучи журналов, начиная с Science и Nature. Так что суетиться не вижу повода.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116859 |
|
|
|
|
Evgeny Gleizerov: А время задавать вопросы на форуме, значит, есть. Между тем напечатать два слова в гугле занимает ничуть не больше времени.
Не устаю вам удивляться. |
Да, потому что на конкретный вопрос я попробую ответить.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116860 |
|
|
|
|
| Evgeny Gleizerov: Говорят, что там прогресс невероятно ускорился в самое последнее время, и уже технологической сингулярностью попахивает. |
Про "самое последнее время" не уверен. До тех, кто этим занимался, начало доходить, что количество таки переходит в качество где-то за год до альфы-зеро.
Т.е. лет 6 уже, как минимум. |
|
|
| номер сообщения: 8-536-116861 |
|
|
|
|
Quantrinas: | Michael_S: никто, включая разработчиков, не можете объяснить, почему обученная сеть исходя из именно таких исходных данных выдала именно такой результат. |
так и обычная рулетка работает |
Только рулетка не умеет стабильно выдавать разумно выглядящих ответов на сложные вопросы. |
|
|
| номер сообщения: 8-536-116862 |
|
|
| |
|
|
|
|
|
|
|
| Copyright chesspro.ru 2004-2024 гг. |
|
|
|
