|
|
|
|
|
|
|
|
| |
|
|
|
|
|
|
|
Вот Сергей Карелов пишет:
Hовый носитель высшего интеллекта на Земле — ИИ больших языковых моделей, — по сути, является небиологическим существом. В силу этого он эволюционирует (см. рис. слева) с немыслимой для биологических существ скоростью.
Эволюция людей от «предыдущей версии» Homo erectus к «текущей версии» Homo sapiens заняла около 1 млн лет.
При этом Homo erectus вовсе не был тупым и безмозглым животным. Он изготавливал широкий ассортимент каменных орудий, вел образ жизни охотника-собирателя, использовал огонь для защиты от хищников и приготовления пищи и освоил огромные пространства от Африки до Юго-Восточной Азии.
Однако, по своему интеллектуальному потенциалу наша «предыдущая версия» сильно уступала нашей «текущей версии», изготавливающей атомные бомбы и космические корабли.
Новый носитель высшего интеллекта на Земле — ИИ больших языковых моделей, — эволюционирует примерно в 3 млн раз быстрее.
Эволюция предыдущей версии ChatGPT за номером 3.5 к текущей версии за номером 4.0 заняла всего 4 месяца (с ноября 2022 до марта 2023)
Скачок интеллектуального потенциала от предыдущей к текущей версии ChatGPT оказался не меньшим, чем скачок способностей от Homo erectus к Homo sapiens (см. рис. справа).
|
И далее:
Вышеописанный процесс — есть ни что иное, как достижение сингулярной фазы развития технологической цивилизации. Что, говоря простым языком, означает:
Скорость развития такова, что прогнозировать его результаты даже на малых временных горизонтах (порядка года) становится невозможным.
О последствиях и рисках этого вы можете подумать на выходных. |
|
|
|
| номер сообщения: 8-536-116863 |
|
|
|
|
| Quantrinas: Если случится что-то страшное, то я получу кучу имэйлов из физ и хим обществ США и Европы и кучи журналов, начиная с Science и Nature. Так что суетиться не вижу повода. |
Вообще-то то, что нынешние боты тест Тьюринга проходят с огромным запасом, уже страшно. Полностью размыть всю верную информацию морем неверной, но правдоподобной, технически очень легко уже сейчас. Даже фабрики троллей больше не нужны. |
|
|
| номер сообщения: 8-536-116864 |
|
|
|
|
Quantrinas: Evgeny Gleizerov: А время задавать вопросы на форуме, значит, есть. Между тем напечатать два слова в гугле занимает ничуть не больше времени.
Не устаю вам удивляться. |
Да, потому что на конкретный вопрос я попробую ответить. |
Видите ли, стандартные сетевые приличия требуют сначала погуглить, а потом уже, если не удалось найти ответ самостоятельно, спрашивать. Почему так, попробуйте догадаться самостоятельно. |
|
|
| номер сообщения: 8-536-116865 |
|
|
|
|
Michael_S: | Evgeny Gleizerov: Говорят, что там прогресс невероятно ускорился в самое последнее время, и уже технологической сингулярностью попахивает. |
Про "самое последнее время" не уверен. До тех, кто этим занимался, начало доходить, что количество таки переходит в качество где-то за год до альфы-зеро.
Т.е. лет 6 уже, как минимум. |
Вот именно. Разбудите меня ночью и спросите про достижения ИИ. Назову победу в Го над чемпионом. И всё.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116866 |
|
|
|
|
Michael_S: | Quantrinas: Если случится что-то страшное, то я получу кучу имэйлов из физ и хим обществ США и Европы и кучи журналов, начиная с Science и Nature. Так что суетиться не вижу повода. |
Вообще-то то, что нынешние боты тест Тьюринга проходят с огромным запасом, уже страшно. Полностью размыть всю верную информацию морем неверной, но правдоподобной, технически очень легко уже сейчас. Даже фабрики троллей больше не нужны. |
Про это у Карелова тоже есть.
Главная опасность генеративного ИИ (типа GPT-4) вовсе не в том, что он позволит масштабировать создание фейков. А в том, что на его базе создается принципиально новый вид СМИ —
интерактивные генеративные медиа (ИГМ).
Отличительной особенностью ИГМ станет глубокая интеграция интерактивности, адаптируемости, масштабируемости и персонализуемости.
Синергия этих 4х качеств позволит создавать целевой рекламный контент с максимальным убеждающим влиянием. Что достигается путем адаптивного изменения контента и способа его подачи в режиме реального времени за счет:
a) персональных данных о получающем контент человеке;
b) оперативного анализа его реакций;
c) анализа предыстории коммуникаций с этим человеком.
|
Вывод:
Ключевое качественное отличие пропаганды и дезинформации в ИГМ выражается в “асимметричном балансе интеллектуальных сил”
✔️ Люди окажутся вне конкуренции перед непрозрачным цифровым хамелеоном, не дающим представления о своем мыслительном процессе, но вооруженным обширными данными о наших личных симпатиях, желаниях и склонностях и имеющим доступ к неограниченной информации для подкрепления своих аргументов.
✔️ Без значимых эффективных мер защиты люди станут жертвами хищнических практик бизнеса и власти, варьирующихся от тонкого принуждения до откровенного манипулирования. |
|
|
|
| номер сообщения: 8-536-116867 |
|
|
|
|
Кстати, эти приличия возможно тоже уже пора отменять именно по вышеназванным причинам.
Верней, практически наверняка пора, но мне пока не хочется этого признавать. |
|
|
| номер сообщения: 8-536-116868 |
|
|
|
|
| Мне кажется, люди, применяющие термин "технологическая сингулярность", не понимают значения слова "сингулярность, сингулярный", и использует его для красного словца. Скорее, в их представлении происходит что-то вроде неуправляемой ядерной реакции, при чем тут сингулярность |
|
|
| номер сообщения: 8-536-116869 |
|
|
|
|
Evgeny Gleizerov: Quantrinas: Evgeny Gleizerov: А время задавать вопросы на форуме, значит, есть. Между тем напечатать два слова в гугле занимает ничуть не больше времени.
Не устаю вам удивляться. |
Да, потому что на конкретный вопрос я попробую ответить. |
Видите ли, стандартные сетевые приличия требуют сначала погуглить, а потом уже, если не удалось найти ответ самостоятельно, спрашивать. Почему так, попробуйте догадаться самостоятельно. |
Мне это не интересно.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116870 |
|
|
|
|
| onedrey: Мне кажется, люди, применяющие термин "технологическая сингулярность", не понимают значения слова "сингулярность, сингулярный", и использует его для красного словца. Скорее, в их представлении происходит что-то вроде неуправляемой ядерной реакции, при чем тут сингулярность |
Думаю да, поэтому и не хочу тратить время на это.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116871 |
|
|
|
|
| Quantrinas: Мне это не интересно. |
А если вам неинтересно, какого чёрта вы задаёте мне вопросы и тем самым тратите моё время?
| onedrey: Мне кажется, люди, применяющие термин "технологическая сингулярность", не понимают значения слова "сингулярность, сингулярный", и использует его для красного словца. Скорее, в их представлении происходит что-то вроде неуправляемой ядерной реакции, при чем тут сингулярность |
Фон Неймана поучите жить. |
|
|
| номер сообщения: 8-536-116872 |
|
|
|
|
Evgeny Gleizerov: | Quantrinas: Мне это не интересно. |
А если вам неинтересно, какого чёрта вы задаёте мне вопросы и тем самым тратите моё время? |
Помому что Ваш интерес может сподвигнуть меня на изучение этого вопроса. Это дань Вашему интеллекту.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116874 |
|
|
|
|
Фон Нейман не Господь пока ещё.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116875 |
|
|
|
|
| onedrey: Мне кажется, люди, применяющие термин "технологическая сингулярность", не понимают значения слова "сингулярность, сингулярный", и использует его для красного словца. Скорее, в их представлении происходит что-то вроде неуправляемой ядерной реакции, при чем тут сингулярность |
Про это есть один из множества анекдотов про разницу между математиками и физиками.
Давайте не позволим математикам и их присным уводить наш офтопус в офтопус. |
|
|
| номер сообщения: 8-536-116876 |
|
|
|
|
| Quantrinas: Фон Нейман не Господь пока ещё. |
Помнится, когда вы начинали отвечать в таком стиле, Чич извлекал специальное антиквантовое заклинание. Вроде помогало. Но из уважения к правилам форума, я не пойду по его стопам. |
|
|
| номер сообщения: 8-536-116877 |
|
|
|
|
| Quantrinas: Фон Нейман не Господь пока ещё. |
Да, но значение слова "сингулярность" он и вслед за ним множество специалистов точно понимал не хуже, чем onedrey.
Подсказка: термин "технологическая сингулярность" имеет математическое происхождение - в порядке аналогии или метафоры, разумеется. |
|
|
| номер сообщения: 8-536-116878 |
|
|
|
|
Evgeny Gleizerov: | Quantrinas: Фон Нейман не Господь пока ещё. |
Да, но значение слова "сингулярность" он и вслед за ним множество специалистов точно понимал не хуже, чем onedrey. |
Просто повертьте, что значение слова "сингулярность" я способен понять.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116879 |
|
|
|
|
Michael_S: | Quantrinas: Фон Нейман не Господь пока ещё. |
Помнится, когда вы начинали отвечать в таком стиле, Чич извлекал специальное антиквантовое заклинание. Вроде помогало. Но из уважения к правилам форума, я не пойду по его стопам. |
Для этого надо быть чичем.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116880 |
|
|
|
|
| Evgeny Gleizerov: . И что там внутри творится, никто не знает. |
Это предложение не имеет физического (а следовательно никакого  ) смысла.
Нейросеть это ни какой не «черный ящик», а система, которая работает по определенным законам. Также как и обычный комп. Просто есть куча задач, которые нейросеть решает лучше чем «обычные» программы. Так что страшилки (если они есть) совсем не в этом. |
|
|
| номер сообщения: 8-536-116881 |
|
|
|
|
Придётся нам встать плечём к плечу с FIBM. 
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116882 |
|
|
|
|
| Michael_S: "никто не знает", с той точки зрения, что никто, включая разработчиков, не можете объяснить, почему обученная сеть исходя из именно таких исходных данных выдала именно такой результат. |
Это же справедливо (никто не знает «почему» такой результат) и для любых симуляций (даже без нейросетей) достаточно сложной системы. |
|
|
| номер сообщения: 8-536-116883 |
|
|
|
|
Michael_S:
Вообще-то то, что нынешние боты тест Тьюринга проходят с огромным запасом, уже страшно. Полностью размыть всю верную информацию морем неверной, но правдоподобной, технически очень легко уже сейчас. . |
Вот это вполне реальная опасность и реальная перспектива. Причем пока видно только одно решение: многократная перепроверка информации, что и усложняет и удлиняет время принятия (отталкивания) информации у конкретного индивидуума. |
|
|
| номер сообщения: 8-536-116884 |
|
|
|
|
Некоторый смысл запросто можно получить, поручив нейросети управлять каким-нибудь вполне физическим процессом. Например, управлять автомобилем или автомобильным движением в городе.
При большом быстродействии мы просто не будем успевать отслеживать принятие Им решений, а, следовательно, не будем иметь о них реального (физического) представления.
Разве не так? |
|
|
| номер сообщения: 8-536-116885 |
|
|
|
|
| Quantrinas: Просто повертьте, что значение слова "сингулярность" я способен понять. |
Вы вот напали на Кванта, а мне бы хотелось услышать, как он понимает например эту цитату:
| It is singularity which often makes the worst part of our suffering, as it always does of our conduct. |
|
|
|
| номер сообщения: 8-536-116886 |
|
|
|
|
Я имел в виду математику и физику, а Вы?
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116887 |
|
|
|
|
Дурында)
 |
|
|
| номер сообщения: 8-536-116889 |
|
|
|
|
Не вижу повода изучать сейчас это понятие, есть задачи поинтереснее.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116890 |
|
|
|
|
| Вы и не можете это изучать, это не ваш профиль. Неспециалисты не могут изучать непрофильную для себя тему, а только ей интересоваться. Или не интересоваться, как угодно. |
|
|
| номер сообщения: 8-536-116892 |
|
|
|
|
А Вы представьте, что это молодой перспективный форвард.
Изучать не обязательно, но почему не оценить перспективы?
Не одних же Месси(математика) с Роналду(физика) обсуждать. |
|
|
| номер сообщения: 8-536-116894 |
|
|
|
|
| Evgeny Gleizerov: Вы и не можете это изучать, это не ваш профиль. Неспециалисты не могут изучать непрофильную для себя тему, а только ей интересоваться. Или не интересоваться, как угодно. |
Это достаточно близко. Конкретно всех профессоров информатики, кто этим занимается у нас в университете я знаю, куда уж ближе.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 8-536-116895 |
|
|
|
|
Первое употребление термина "сингулярность" в обсуждаемом значении:
| In the 1950s, the mathematician Stanislaw Ulam recalled an old con-versation with John Von Neumann, in which Von Neumann dis-cussed the possibility of a technological turning point for humanity: “the ever accelerating progress of technology...gives the appearance of approaching some essential singularity in the history of the race beyond which human afairs, as we know them, could not continue.” |
|
|
|
| номер сообщения: 8-536-116896 |
|
|
| |
|
|
|
|
|
|
|
| Copyright chesspro.ru 2004-2024 гг. |
|
|
|
