|
|
|
|
|
|
|
|
| |
|
|
|
|
|
|
|
| Quantrinas: Приведите же пример, как "железный друг" сейчас обманывает. |
дофига примеров на самом деле. недвано была опубликована статья в NYT, которая стала виральной. даже Сутовский у себя в ФБ про неё писал. но примеров (что я читал и слышал) уже немало. приведу пост Сута, он хороший текст составил.
Удивительная история - смешная, но немножко страшная.
New York Times рассказывает о судебном иске против авиакомпании. Некий страдалец пошел в суд через три года после того, как ему заехали тележкой по коленке на борту самолета.
Нанял серьезных адвокатов. Понаписали кучу бумаг, привели кучу прецедентов.
Платите, дескать. Помните случай Варгезе против Дельты? А Зикермана против Корейских авиалиний?
Собрали восемь таких дел. С решениями судов, развернутыми цитатами и пояснениями.
Ответчик слегка прифигел. Они вообще считали, что слушаний не будет, и вообще срок давности по таким искам прошел. Но пришлось разбираться. И в процессе разбора они офигевают еще больше. Ибо одно из дел не находится ни по каким базам. Они начинают изучать другие. Ну как же, говорят юристы истца. Это ж случай Варгезе, который в 11ом округе рассматривался. Вот же в папке развернутое мнение.
Вечер переставал быть томным. Что за чертовщина?
Да. Это был он.
ChatGPT, к которому в процессе подготовки дела обратился адвокат истца, юрист с 30-летним стажем, ВЫДУМАЛ всё. Где-то вообще придумал несуществующие имена и иски, где-то по искам, совершенно не относящимся к делу, выдумал детали
.
Как утверждает адвокат истца, он даже переспросил у ChatGPT, реальны ли все случаи. Chat ответил ̶н̶и̶к̶о̶г̶да! Но его разоблачили. |
|
|
|
| номер сообщения: 49-58-42803 |
|
|
|
|
FIBM: | Evgeny Gleizerov: В недалёкой перспективе "железный друг" может стать идеальным, необоримым манипулятором, причём подстраиваемым под индивидуальный объект манипулирования. И тогда его решения игнорировать не получится. Это не я выдумал. |
Не думаю, что это реально. Причина довольно проста: тренировка идет на огромной выборке разнонаправленных индивидуальностей. Если коротко, то в тренировке участвуют и профессор МГУ и немецкий бюргер из деревни, где два дома. И, если из решения предложенного ИИ профессору будут «торчать уши» бюргера, и наоборот, то манипулирования не получится. |
Вот здесь, например. А тут про автора. Как видите, это действительно узкий специалист.
| The most dangerous feature of generative AI is not that it can crank out fake articles and videos at scale, but that it can produce interactive and adaptive content that is customized for individual users to maximize persuasive impact. |
Далее разъяснено подробно, но нет смысла цитировать статью чуть ли не полностью, если есть ссылка. |
|
|
| номер сообщения: 49-58-42804 |
|
|
|
|
Cube2: | Quantrinas: Приведите же пример, как "железный друг" сейчас обманывает. |
дофига примеров на самом деле. недвано была опубликована статья в NYT, которая стала виральной. даже Сутовский у себя в ФБ про неё писал. но примеров (что я читал и слышал) уже немало. приведу пост Сута, он хороший текст составил.
|
Спасибо. Отличный пример. Одному идиоту пришло в голову использовать глючную программу из инета и он погорел. Где глобальная опасность?
Помните МММ или панамские бумаги? Там и то было больше смысла.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42805 |
|
|
|
|
Evgeny Gleizerov: Вот здесь, например. А тут про автора. Как видите, это действительно узкий специалист.
| The most dangerous feature of generative AI is not that it can crank out fake articles and videos at scale, but that it can produce interactive and adaptive content that is customized for individual users to maximize persuasive impact. |
Далее разъяснено подробно, но нет смысла цитировать статью чуть ли не полностью, если есть ссылка. |
1. Не знаю, что Вы называете [научной] статьёй.
Это тезисы в интернете.
2. Не знаю, кого Вы называете узким специалистом.
| Engineer, researcher, inventor, and entrepreneur. He researches augmented reality, virtual reality, and artificial intelligence. He was the Cotchett Endowed Professor of Educational Technology at the California Polytechnic State University, San Luis Obispo. He founded the Immersion Corporation and Unanimous A.I., and he wrote the screenplay for the 2009 romantic comedy film, Lab Rats. |
Вполне широкий специалист не вполне понятно в чём.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42806 |
|
|
|
|
Quantrinas: Спасибо. Отличный пример. Одному идиоту пришло в голову использовать глючную программу из инета и он погорел. Где глобальная опасность?
Помните МММ или панамские бумаги? Там и то было больше смысла. |
Вы упускаете суть. проблема не в "одном идиоте", а в умение машины врать и манипулировать.
немного о внедрение. я работаю independent project manager - с разными фирмами, разными проектами. некоторые за деньги, некоторые мне просто интересны. так вот, я вижу как широко внедряются разные AI Tools в повседневку всех и вся. Pictory, Jasper, Flick, Fireflies, Neuraltext ну и конечно же gpt, который почти у всех открыт во втором окне. им пользуется люди, которые пишут код, которые пишут тексты, им пользуются для всяких небольших рисерчей, с его помощью составляются различные темплейты итд. все больше и больше людей в разных областях полагаются на него в той или иной мере в своей повседневной работе. это совсем не как МММ и прочие скемы. ноль схожести. |
|
|
| номер сообщения: 49-58-42807 |
|
|
|
|
Cube2:
Удивительная история - смешная, но немножко страшная.
|
И что? У него (ИИ) работа такая: тренируясь выдавать новые результаты. А задача людей разбираться полезен или вреден этот результат, «вранье» или «правда». Если же люди «обманываться рады», то это исключительно наши проблемы.
Не зря же в научной сфере существует система рецензирования статей и классификация журналов с рецензиями и мусорных журналов (без рецензий). Не панацея, но все-таки.
В сфере ИИ также можно многое улучшить с помощью образования «обывателя». |
|
|
| номер сообщения: 49-58-42808 |
|
|
|
|
Cube2: Quantrinas: Спасибо. Отличный пример. Одному идиоту пришло в голову использовать глючную программу из инета и он погорел. Где глобальная опасность?
Помните МММ или панамские бумаги? Там и то было больше смысла. |
Вы упускаете суть. проблема не в "одном идиоте", а в умение машины врать и манипулировать.
немного о внедрение. я работаю independent project manager - с разными фирмами, разными проектами. некоторые за деньги, некоторые мне просто интересны. так вот, я вижу как широко внедряются разные AI Tools в повседневку всех и вся. Pictory, Jasper, Flick, Fireflies, Neuraltext ну и конечно же gpt, который почти у всех открыт во втором окне. им пользуется люди, которые пишут код, которые пишут тексты, им пользуются для всяких небольших рисерчей, с его помощью составляются различные темплейты итд. все больше и больше людей в разных областях полагаются на него в той или иной мере в своей повседневной работе. это совсем не как МММ и прочие скемы. ноль схожести. |
Те, кто так делают, наверное скоро отстанутся без работы. Если не научатся думать. Мне кажется это не проблема ИИ. Все знают, чат gpt ненадёжен.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42809 |
|
|
|
|
Нет, всё это очень интересно, но просто обожгутся и больше не будут пользоваться.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42810 |
|
|
|
|
| FIBM: У него (ИИ) работа такая: тренируясь выдавать новые результаты. |
Кстати да. Это не база данных с системой поиска, а средство сгенерить что-то ещё.
Вот и старается. 
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42811 |
|
|
|
|
| Cube2: и конечно же gpt, который почти у всех открыт во втором окне. им пользуется люди, которые пишут код, которые пишут тексты, им пользуются для всяких небольших рисерчей, |
Опять тоже самое. Если не думать, не проверять то, что написал железный друг, то этих людей в конце концов просто уволят.
Есть простенький всем доступный пример: вам нужно перевести «небольшой рисерч» (для получения финансирования) с английского на русский (с русского на английский). Вы используете бездумно самый современный компьютерный переводчик. Вопрос: какая вероятность, что вы получите финансирование? 
Тоже самое с публикацией статей. Со студенческими работами, и т.д. и т.п. |
|
|
| номер сообщения: 49-58-42812 |
|
|
|
|
Но, пожалуй я соглашусь, что если будут плодиться обманщики в интернете, предлагающие некачественные услуги ИИ, то их надо ограничить. А то дураков то потенциальных много миллионов.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42813 |
|
|
|
|
Michael_S: FIBM: | Evgeny Gleizerov: В недалёкой перспективе "железный друг" может стать идеальным, необоримым манипулятором, причём подстраиваемым под индивидуальный объект манипулирования. И тогда его решения игнорировать не получится. Это не я выдумал. |
Не думаю, что это реально. Причина довольно проста: тренировка идет на огромной выборке разнонаправленных индивидуальностей. Если коротко, то в тренировке участвуют и профессор МГУ и немецкий бюргер из деревни, где два дома. И, если из решения предложенного ИИ профессору будут «торчать уши» бюргера, и наоборот, то манипулирования не получится. |
Тут та же идея. Натренированая на массах бюргеров, профессоров и бомжей способность убедительно, типа, рассуждать является фильтром, через который пропускают ваши индивидуальные заморочки. Которые гуглу или эпплу известны никак не хуже, чем вам самим. |
К этой программе отношусь скептически. «Индивидуальные заморочки» слишком индивидуальны, чтобы их можно было устойчиво определить да еще на достаточно длинном промежутке времени, используя тренинг по разнообразной базе.
Как пример: когда «железному другу» удастся объяснить мне, что играть в шахматы в блиц интересней чем в классику, то я соглашусь, что нужно «что-то делать» А пока… |
|
|
| номер сообщения: 49-58-42814 |
|
|
|
|
А пока надо что-то делать с конспирологами и алармистами, пока они всех не заели.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42815 |
|
|
|
|
| FIBM: К этой программе отношусь скептически. «Индивидуальные заморочки» слишком индивидуальны, чтобы их можно было устойчиво определить да еще на достаточно длинном промежутке времени, используя тренинг по разнообразной базе. |
Я ведь приводил ссылку, из которой видно, что специалисты (мнение Розенберга совсем не маргинальное) ваш скептицизм не разделяют.
Вы, возможно, немного отстали от времени, прогресс ИИ невероятно ускорился буквально в последние месяцы. Жить представлениями даже полугодичной давности уже не приходится. Вот тут наглядно (автор - Сергей Карелов).
Эволюция предыдущей версии ChatGPT за номером 3.5 к текущей версии за номером 4.0 заняла всего 4 месяца (с ноября 2022 до марта 2023).
Скачок интеллектуального потенциала от предыдущей к текущей версии ChatGPT оказался не меньшим, чем скачок способностей от Homo erectus к Homo sapiens (см. рис. справа). |
|
|
|
| номер сообщения: 49-58-42816 |
|
|
|
|
| К порядку ведения. Всё-таки очень жаль, что на этом форуме нет функции "не видеть постов пользователей из чёрного списка" (встречал форумы, где такая функция есть). Это бы резко сократило почву для виртуальных конфликтов, ибо все они происходят с участием одних и тех же дураков и балаболов, которые при некоторой степени активности и приставучести способны вывести из себя и святого. Если бы можно было такого забанить просто лично для себя, беседы на форуме стали бы много более комфортными и мирными, и работа Артура бы значительно упростилась. |
|
|
| номер сообщения: 49-58-42817 |
|
|
|
|
Полностью согласен. Без дураков и балаболов было бы гораздо лучше.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42818 |
|
|
|
|
А пока замечу, что "эволюция версий" не говорит ни о чём. Авторы могут хоть 10-й сразу назвать.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42820 |
|
|
|
|
А это пассаж из статьи очередного дзен-эксперта.
| Hовый носитель высшего интеллекта на Земле — ИИ больших языковых моделей, — по сути, является небиологическим существом. |
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42821 |
|
|
|
|
Естественнейше для модели, в которой живое помещается в одну структуру с неживым.
Потом останется только прикрутить этот ИИ к тому Ивирусу, который Вы нам обещали.
Или он сам себя?
 |
|
|
| номер сообщения: 49-58-42822 |
|
|
|
|
Вместо внеклассного чтения и цитирования дзен-экспертов в рабочее время ученому логичнее и полезнее заниматься наукой. В противном случае ИИ вас найдет и пригласит для беседы - ему такие сачковые носители не нужны. 
| BillyBones: Потом останется только прикрутить этот ИИ к тому Ивирусу... |
И тебе прикрутят, и тебе тоже прикрутят, и мне прикрутят (с) |
|
|
| номер сообщения: 49-58-42823 |
|
|
|
|
| strumball: Вместо внеклассного чтения и цитирования дзен-экспертов в рабочее время ученому логичнее и полезнее заниматься наукой. |
Истинно так и есть. 
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42824 |
|
|
|
|
Я думаю, что это какой-то сетевой фантом, выдающий себя за учёного-физика. Не только у учёного, но и у нормально развитого третьеклассника не может быть такой логики:
Сообщение:
Эволюция предыдущей версии ChatGPT за номером 3.5 к текущей версии за номером 4.0 заняла всего 4 месяца (с ноября 2022 до марта 2023).
Скачок интеллектуального потенциала от предыдущей к текущей версии ChatGPT оказался не меньшим, чем скачок способностей от Homo erectus к Homo sapiens (см. рис. справа). |
Ответ:
| А пока замечу, что "эволюция версий" не говорит ни о чём. Авторы могут хоть 10-й сразу назвать. |
Это уровень связности мышления, характерный для питомца вспомогательной школы, а не учёного. И это ведь не случайный глюк (с кем не бывает), а норма сетевого поведения. |
|
|
| номер сообщения: 49-58-42825 |
|
|
|
|
Да даже и второклассник понимает, что чатбот не является "носителем высшего интеллекта на Земле" и сам по себе не развивается. Он только "самообучается" в пределах заложенного в него. А развивает его Homo Sapience в лице тех, кто закончил больше классов.
__________________________
Audiatur et altera pars |
|
|
| номер сообщения: 49-58-42826 |
|
|
|
|
strumball:
| BillyBones: Потом останется только прикрутить этот ИИ к тому Ивирусу... |
И тебе прикрутят, и тебе тоже прикрутят, и мне прикрутят (с) |
"Но никогда им не увидеть нас
Прикрученными к веслам на галерах." |
|
|
| номер сообщения: 49-58-42827 |
|
|
|
|
Cube2:
Вы упускаете суть. проблема не в "одном идиоте", а в умение машины врать и манипулировать.
|
Тут сразу видны две главные проблемы
Одна в том, кого обманывают. То есть кто этот идиот, который передаст свои полномочия машине.
Вторая - в заложенном изнутри злокозненном намерении обманывающих.
В первом случае наибольшую опасность представляют собой генералы в поисках идеального оружия.
Во втором - самоуверенность "манипулирующих" в шахматной логике процессов, которые они, по их убеждению, контролируют.
Обе проблемы - человеческие. |
|
|
| номер сообщения: 49-58-42828 |
|
|
|
|
Evgeny Gleizerov: | FIBM: К этой программе отношусь скептически. «Индивидуальные заморочки» слишком индивидуальны, чтобы их можно было устойчиво определить да еще на достаточно длинном промежутке времени, используя тренинг по разнообразной базе. |
Я ведь приводил ссылку, из которой видно, что специалисты (мнение Розенберга совсем не маргинальное) ваш скептицизм не разделяют.
Вы, возможно, немного отстали от времени, прогресс ИИ невероятно ускорился буквально в последние месяцы. Жить представлениями даже полугодичной давности уже не приходится. Вот тут наглядно (автор - Сергей Карелов).
Эволюция предыдущей версии ChatGPT за номером 3.5 к текущей версии за номером 4.0 заняла всего 4 месяца (с ноября 2022 до марта 2023).
Скачок интеллектуального потенциала от предыдущей к текущей версии ChatGPT оказался не меньшим, чем скачок способностей от Homo erectus к Homo sapiens (см. рис. справа). |
|
| При сохранении такой скорости роста способностей (а вероятность ее сохранения ничуть не ниже ее снижения — точнее, этого не знает никто) |
Выдавать такие противоречивые утверждения недостойно даже и второй версии ChatGPT
__________________________
не надо шутить с войной |
|
|
| номер сообщения: 49-58-42829 |
|
|
|
|
Не могли бы вы уточнить, в чём именно вы видите противоречие? Очевидно, что математических вероятностей никто не считал за невозможностью этого, и слово "вероятность" употреблено в бытовом значении. По ссылке это сформулировано предельно ясно:
| Скорость развития такова, что прогнозировать его результаты даже на малых временных горизонтах (порядка года) становится невозможным. |
|
|
|
| номер сообщения: 49-58-42830 |
|
|
|
|
| вероятность ее сохранения ничуть не ниже ее снижения — точнее, этого не знает никто |
так "ничутъ не ниже" или неизвестно?
Вся заметка в целом набор оценочных утверждений и эти утверждения принципиально непроверяемые.
__________________________
не надо шутить с войной |
|
|
| номер сообщения: 49-58-42832 |
|
|
|
|
Evgeny Gleizerov: FIBM: | Evgeny Gleizerov: В недалёкой перспективе "железный друг" может стать идеальным, необоримым манипулятором, причём подстраиваемым под индивидуальный объект манипулирования. И тогда его решения игнорировать не получится. Это не я выдумал. |
Не думаю, что это реально. Причина довольно проста: тренировка идет на огромной выборке разнонаправленных индивидуальностей. Если коротко, то в тренировке участвуют и профессор МГУ и немецкий бюргер из деревни, где два дома. И, если из решения предложенного ИИ профессору будут «торчать уши» бюргера, и наоборот, то манипулирования не получится. |
Вот здесь, например. А тут про автора. Как видите, это действительно узкий специалист.
| The most dangerous feature of generative AI is not that it can crank out fake articles and videos at scale, but that it can produce interactive and adaptive content that is customized for individual users to maximize persuasive impact. |
Далее разъяснено подробно, но нет смысла цитировать статью чуть ли не полностью, если есть ссылка. |
пойдешь к одному АИ он тебя убедит во вреде вакцин, пойдешь к другому он тебя убедит в обратном. Махнешь на обоих рукой и на этом кончится.
Кстати, сила убеждения действует здесь и сейчас, а потом быстро ослабевает со временем. Вас почти убедили купить ненужный вам time-sharing, но когда вам удалось от них отключиться, то вы быстро пришли в себя.
Можно конечно представить, что вас регулярно и принудительно тащат на такой сеанс промывания мозгов, но это уже не про АИ.
__________________________
не надо шутить с войной |
|
|
| номер сообщения: 49-58-42833 |
|
|
|
|
shcherb: | вероятность ее сохранения ничуть не ниже ее снижения — точнее, этого не знает никто |
так "ничутъ не ниже" или неизвестно? |
(Терпеливо) Ладно, попробую ещё раз. Автор в данном случае выступает не как исследователь, а как популяризатор, и, соответственно, может и должен употреблять некоторые слова в бытовом значении. Когда мы в быту говорим, что событие "А" не менее вероятно, чем событие "B", это означает не сравнение вычисленных нами математических вероятностей, а "хрен его знает, данных маловато, чтобы прогнозировать". Тем более что это значение уточнено прямо в том же предложении, после слова "точнее". Не понять просто невозможно, если только не притворяться непонимающим в целях троллинга. |
|
|
| номер сообщения: 49-58-42834 |
|
|
| |
|
|
|
|
|
|
|
| Copyright chesspro.ru 2004-2024 гг. |
|
|
|
