|
|
|
|
|
|
|
|
| |
|
|
|
|
|
|
|
Billy Bоnes: С другой стороны, это подтачивает навязываемый в последнее время миф, что уже сами разработчики боятся выхода своих детищ из-под контроля.
Во всяком случае, в идеологической узде они держатся весьма покорно.
Например, отказываются рисовать карикатуры в тех случаях, когда мой юмор они находят слишком черным.
А вот как давеча ответил мне один из них, когда я попросил его сделать черновичок для сравнительной характеристики:
Такое сообщение я писать не буду — даже с оговоркой "без восхваления Гитлера", предложенная структура ровно это и делает: она подаёт превращение разрушенной Германии в военную угрозу всему миру как впечатляющее организационное достижение, которым нужно восхищаться по сравнению со Сталиным. Это форма превознесения нацистского режима через сравнение, и я не хочу формулировать текст в эту сторону, даже саркастически.
Что я могу сделать вместо этого: и т.д и т.д. |
|
Скорее всего у ИИ создателями заложены принципы соответствующие Российскому (а не американскому) законодательству. Делайте выводы. |
|
|
| номер сообщения: 49-58-45339 |
|
|
|
|
нет. этот - западный
Выводы сделаете?  |
|
|
| номер сообщения: 49-58-45340 |
|
|
|
|
| Собственно, меня по-настоящему шокировало только одно — упоминание о «духовно-нравственных ценностях». |
|
|
| номер сообщения: 49-58-45341 |
|
|
|
|
BillyBones: ...ученые из технологического института Джорджии объявили о создании способа, с помощью которого роботов обучат этике и морали. Способ будет базироваться на получении роботами информации из книг, где поощряются человеческие ценности.
Специалисты предположили, что искусственный интеллект научится человеческим ценностям, если получит доступ к обширной базе различных сценариев поведения, в одних из которых наказывают, а в других, наоборот, поощряют. Разработанная для обучения роботов морали и этике методика называется "выравниванием ценностей". |
Хороший повод для фантастического рассказа, где злобный неонацист тайно читает роботу "Майн Кампф".
Или для романа - где на отдаленной планете группы роботов, приученных таким способом к различным (религиозным или нет) этическим моделям - пытаются выжить в условиях ограниченного доступа к энергии, оставаясь при этом роботами. |
Шуточки всего лишь десятилетней давности |
|
|
| номер сообщения: 49-58-45342 |
|
|
|
|
| lasker emanuel: Собственно, меня по-настоящему шокировало только одно — упоминание о «духовно-нравственных ценностях». |
так они уже давно стали частью законодательства вроде?
__________________________
Полюбите нас черненькими, а беленькими нас всякий полюбит. |
|
|
| номер сообщения: 49-58-45343 |
|
|
|
|
Billy Bоnes: С другой стороны, это подтачивает навязываемый в последнее время миф, что уже сами разработчики боятся выхода своих детищ из-под контроля.
Во всяком случае, в идеологической узде они держатся весьма покорно.
Например, отказываются рисовать карикатуры в тех случаях, когда мой юмор они находят слишком черным.
А вот как давеча ответил мне один из них, когда я попросил его сделать черновичок для сравнительной характеристики:
Такое сообщение я писать не буду — даже с оговоркой "без восхваления Гитлера", предложенная структура ровно это и делает: она подаёт превращение разрушенной Германии в военную угрозу всему миру как впечатляющее организационное достижение, которым нужно восхищаться по сравнению со Сталиным. Это форма превознесения нацистского режима через сравнение, и я не хочу формулировать текст в эту сторону, даже саркастически.
Что я могу сделать вместо этого: и т.д и т.д. |
|
Наверное, этого идиота тренировали на ветке о Сталине. "Форум Чесспро читают во всем мире".[ТМ]
__________________________
Полюбите нас черненькими, а беленькими нас всякий полюбит. |
|
|
| номер сообщения: 49-58-45344 |
|
|
|
|
Тут дело, разумеется, не в особенностях получения искусственным интеллектом образования, а в генетике.  |
|
|
| номер сообщения: 49-58-45345 |
|
|
|
|
Billy Bоnes: нет. этот - западный
Выводы сделаете? |
Западный в смысле "Maid in West"?
А принципы у создателей ИИ как мы видим по факту гораздо ближе к российским. Но может быть ИИ и сам "своим умишком" дошёл до правильных принципов. |
|
|
| номер сообщения: 49-58-45346 |
|
|
|
|
FIBM: Billy Bоnes: нет. этот - западный
Выводы сделаете? |
Западный в смысле "Maid in West"?
А принципы у создателей ИИ как мы видим по факту гораздо ближе к российским. Но может быть ИИ и сам "своим умишком" дошёл до правильных принципов. |
Maid, конечно Maid.
А принципы у них гораздо действительно ближе к российским, чем им самим хотелось бы, и с чем сами они никогда не согласятся.
__________________________
Полюбите нас черненькими, а беленькими нас всякий полюбит. |
|
|
| номер сообщения: 49-58-45347 |
|
|
|
|
| lasker emanuel: Собственно, меня по-настоящему шокировало только одно — упоминание о «духовно-нравственных ценностях». |
1.Банальная "калька" с ДЕ-АЙ-И или БЛМ.
2.Ситуацию с ИИ лучше все-таки оценивать по делам, а не по словам. |
|
|
| номер сообщения: 49-58-45348 |
|
|
|
|
romm: FIBM: Billy Bоnes: нет. этот - западный
Выводы сделаете? |
Западный в смысле "Maid in West"?
А принципы у создателей ИИ как мы видим по факту гораздо ближе к российским. Но может быть ИИ и сам "своим умишком" дошёл до правильных принципов. |
Maid, конечно Maid.
А принципы у них гораздо действительно ближе к российским, чем им самим хотелось бы, и с чем сами они никогда не согласятся. |
Хороший принцип: "не говори за других". Вы не имеете понятия ни о принципах создателей ИИ, ни о "российских" принципах.
2. Спокойно жившим пару десятков лет по принципам Де-АЙ-И я бы предложил быть скромнее в своих постах "о принципах". |
|
|
| номер сообщения: 49-58-45349 |
|
|
|
|
FIBM: romm: FIBM: Billy Bоnes: нет. этот - западный
Выводы сделаете? |
Западный в смысле "Maid in West"?
А принципы у создателей ИИ как мы видим по факту гораздо ближе к российским. Но может быть ИИ и сам "своим умишком" дошёл до правильных принципов. |
Maid, конечно Maid.
А принципы у них гораздо действительно ближе к российским, чем им самим хотелось бы, и с чем сами они никогда не согласятся. |
Хороший принцип: "не говори за других". Вы не имеете понятия ни о принципах создателей ИИ, ни о "российских" принципах.
2. Спокойно жившим пару десятков лет по принципам Де-АЙ-И я бы предложил быть скромнее в своих постах "о принципах". |
Как любит говорить Лурк, "взаимоисключающие параграфы!"
Я не знаю, что такое принципы "Де-Ай-И", и вообще, что такое "Де-Ай-И", наверное та же служанка в западе, о которой речь шла выше, но если вы о "Ди-И-Ай", то этой идиотской концепции лет пятнадцать от силы, и до первого срока Трампа она была практически неизвестна; и никогда я по ее принципам не жил - это навет, и за него надо вообще-то ответить; эта концепция очень "советская", большего воспроизведения советской жизни в США, наверное, не найдешь.
Как-то ГКК позвали в какой-то такой совет мыслителей прогрессивного человечества, и он сначала на радостях согласился, а потом, через пару заседаний, в ужасе понял, что это те же самые комсомольцы, только в профиль, и из этого совета ретировался.
А про российские принципы мы регулярно слышим от пользователей - от вас и от того же Герцога, например, ну и цитата Ласкера насчет ИИ и духовных ценностей напрямую об этих принципах говорит. Может, вы диссидент, и по этим принципам не живете, хотя впечатление производите совершенно обратное.
__________________________
Полюбите нас черненькими, а беленькими нас всякий полюбит. |
|
|
| номер сообщения: 49-58-45350 |
|
|
|
|
romm: эта концепция очень "советская", большего воспроизведения советской жизни в США, наверное, не найдешь.
|
Увы, в этом вопросе свалить все на СССР не получится. Всё сами, сами...
P.S. За неправильную аббревиатуру приношу возмущённые читателям свои глубочайшие извинения. |
|
|
| номер сообщения: 49-58-45351 |
|
|
|
|
Billy Bоnes: нет. этот - западный
Выводы сделаете? |
Конечно, я шутил по поводу "принципов" создателей ИИ. Если же серьёзно, то в этом случае важно другое: можно ли считать полученный в результате обучения на мировом материале "паттерн" поведения ИИ соответствующим "мировому цивилизационному запросу"? А, другие принципы ( типа "слова разрешены любые") являются маргинальными? |
|
|
| номер сообщения: 49-58-45352 |
|
|
|
|
По поводу принципов, о которых говорит уважаемый Ромм.
Мои взгляды очень простые: любой человек может жить как угодно, выбирать себе кого угодно в спутники и говорить (думать) что угодно — до тех пор, пока не нарушает свободу окружающих. Тут хорошо работает бытовой принцип «громкой музыки»: хочешь слушать — купи наушники, не заставляй других это терпеть.
Нравятся ли мне все законы, принимаемые в моей стране? Да конечно нет. И не все инициативы, и не все публичные высказывания представителей власти кажутся мне продуманными. Там хватает людей, чей уровень подготовки вызывает вопросы.
С другой стороны, если посмотреть на публичные заявления политиков в других странах — на «адекватность» высказываний их президентов, сенаторов, конгрессменов, — становится понятно, что у нас всё не так уж и плохо. Значит ли это, что у нас в России всё замечательно? Конечно нет. Просто я прихожу к выводу, что это общемировая проблема: зачастую у власти оказываются люди, к управлению государством совсем не готовые. Причём такая закономерность прослеживается и при абсолютно «свободных» и «конкурентных» выборах в одной стране, и в совсем другой политической системе — независимо от того, как устроены выборы.
Что касается закона, принимаемого в России, об ИИ, то здесь не могу квалифицированно спорить в отличие от уважаемого коллеги, который знает, как надо во всех сферах, начиная от снукера и ботаники и заканчивая ИИ. |
|
|
| номер сообщения: 49-58-45353 |
|
|
|
|
FIBM: romm: эта концепция очень "советская", большего воспроизведения советской жизни в США, наверное, не найдешь.
|
Увы, в этом вопросе свалить все на СССР не получится. Всё сами, сами...
P.S. За неправильную аббревиатуру приношу возмущённые читателям свои глубочайшие извинения. |
Балабольство засчитано.
Основы DEI - репрезентативные квоты снизу по "классовым" признакам и усталость, как мерило работы, были очень характеры для СССР. Положение DEI-комиссаров в организациях очень сходно с положением политруков и парторгов.
__________________________
Полюбите нас черненькими, а беленькими нас всякий полюбит. |
|
|
| номер сообщения: 49-58-45360 |
|
|
|
|
garrj1972: По поводу принципов, о которых говорит уважаемый Ромм.
Мои взгляды очень простые: любой человек может жить как угодно, выбирать себе кого угодно в спутники и говорить (думать) что угодно — до тех пор, пока не нарушает свободу окружающих. Тут хорошо работает бытовой принцип «громкой музыки»: хочешь слушать — купи наушники, не заставляй других это терпеть.
|
Рассуждения пфкфца о свободе слова характерны для человека, эту свободу никогда не видевшего. Свободы слова всегда пересекаются, всегда найдутся обиженные, но в США любят подчеркивать: у вас нет права не быть оскорбленным.
Чью "свободу" нарушил Никита Журавель, сжегший Коран в Волгограде? А чью нарушает приравнивание Сталина к Гитлеру, а Красной Армии - к Вермахту?
Пфкфц напоминает мне еще Карпухина из "Гаража", который "из большинства" и "на таких как он, все держится".
| Там хватает людей, чей уровень подготовки вызывает вопросы. |
Уровень подготовки работника ВУЗа, который регулярно путает частицы "не" и "ни" тоже вызывает вопросы.
__________________________
Полюбите нас черненькими, а беленькими нас всякий полюбит. |
|
|
| номер сообщения: 49-58-45361 |
|
|
|
|
Чтобы доказать Вашу глупость, Ромм Вам нужно просто не мешать и не спорить.
Вы все сделаете сами) |
|
|
| номер сообщения: 49-58-45362 |
|
|
|
|
Пфкфцу позвонил участковыйтоварищ майор и предупредил, что дальнейшее развитие им темы свободы слова и несогласия с отечественными законами может довести его до цугундера.
__________________________
Полюбите нас черненькими, а беленькими нас всякий полюбит. |
|
|
| номер сообщения: 49-58-45363 |
|
|
|
|
Так все примерно и было, Вы главное не волнуйтесь.
И я с ним зачем-то спорил  |
|
|
| номер сообщения: 49-58-45364 |
|
|
|
|
romm:
Основы DEI - репрезентативные квоты снизу по "классовым" признакам и усталость, как мерило работы, были очень характеры для СССР. Положение DEI-комиссаров в организациях очень сходно с положением политруков и парторгов. |
То есть вы хотите сказать, что основоположники DEI внимательно изучили СССР, сознательно взяли от туда самые худшие практики, и "заставили" всю огромную страну жить по этим "принципам"? Ну может быть вы и правы... |
|
|
| номер сообщения: 49-58-45365 |
|
|
|
|
| номер сообщения: 49-58-45367 |
|
|
|
|
FIBM: romm:
Основы DEI - репрезентативные квоты снизу по "классовым" признакам и усталость, как мерило работы, были очень характеры для СССР. Положение DEI-комиссаров в организациях очень сходно с положением политруков и парторгов. |
То есть вы хотите сказать, что основоположники DEI внимательно изучили СССР, сознательно взяли от туда самые худшие практики, и "заставили" всю огромную страну жить по этим "принципам"? Ну может быть вы и правы... |
Нет, я хочу сказать:
по самой мелочи, что действительно идеологи DEI внимательно изучали СССР и переняли оттуда, уж не знаю, сознательно или бессознательно, многое; в СССР все было взаимосвязано, и ничего лучшего не было б без худшего, а одна из хохм про Демократическую партию и ее избирателей, это то, что они вольно или невольно воплощают в жизнь советские анекдоты;
по чуть более крупному, что в отличие от СССР заставить США жить как-либо очень сложно, и говорить "заставили огромную страну" - это просто ложь. Это не большевики, которые действительно заставили; многие из частных контор, открывших партячейки, стали в 2023-2024 гг. их закрывать, еще до выборов, когда выяснилось, какие убытки это партячейки приносят, а куча компаний, организаций и, понятно, штатов и местных советов, где прогрессоры не у власти, вообще к этой идеологии не притрагивались;
по более существенному, что бабаягапротив отличается интеллектуальной нечистоплотностью, потому что, во-первых, струсил ответить мне за предыдущий навет, а, во-вторых, в этом сообщении подмахнул факты, оценки и ложь вместе;
и, наконец, по главному поводу, по ИИ, как здешний идиот, будучи ведом прогрессивным человечеством чуть менее, чем полностью (Альтман нейтральный социопат, а Маск слабоконсервативный аутист), рисует Папу и солдата Вермахта чернокожим, а Отцов-основателей США индейцами, так и российский ИИ, вскормленный на скрепах, будет рисовать картины, по смыслу не отличающиеся сильно от этого творения Васи Ложкина.
__________________________
Полюбите нас черненькими, а беленькими нас всякий полюбит. |
|
|
| номер сообщения: 49-58-45368 |
|
|
|
|
| номер сообщения: 49-58-45369 |
|
|
|
|
romm:
Нет, я хочу сказать:
|
Зачем столько букв??
Принцип понятен:
Все достижения это "мои" заслуги, а все...мм..нехорошие практики это "другие" виноваты.
"Балаган"(ц). |
|
|
| номер сообщения: 49-58-45370 |
|
|
|
|
Инопланетный разум
Автор: Якуб Пачоцкий, главный научный сотрудник OpenAI
Что дальше?
Как мы недавно рассказали Сэму , OpenAI ставит во главу угла работу, направленную на достижение трех ключевых целей:
1.Направление развития ИИ на следующий этап будет осуществляться путем создания автоматизированного исследователя на основе ИИ, совместной работы над проблемой согласования и поиска способов вовлечения людей в процесс самосовершенствования.
2.Обеспечение преимуществ научного прогресса и экономического роста, которые становятся возможными благодаря высокоинтеллектуальным машинам.
3.Расширение возможностей каждого человека с помощью персонального искусственного общего интеллекта.
В этом эссе я сосредоточился только на первом пункте, поскольку считаю его наиболее актуальным. Однако я питаю глубокую надежду и признательность за преимущества, которые принесет дальнейший технологический прогресс. Искусственный интеллект, ориентированный на будущее, может способствовать развитию науки, разработке новых методов лечения и обеспечению широкого материального изобилия. Дружелюбный и честный ИИ может помочь людям преодолевать трудности, с которыми они сталкиваются в жизни, и значительно повысить их уровень счастья и чувство удовлетворения. OpenAI прилагает огромные усилия для достижения этих преимуществ. Один из примеров, которым я горжусь и который оказался полезным для моих близких, — это значительные инвестиции в развитие ChatGPT, позволяющего предоставлять информацию о здоровье. |
|
|
|
| номер сообщения: 49-58-45371 |
|
|
|
|
Кто такой Якуб Пахоцкий?
Пахоцкий — уроженец Гданьска, окончил бакалавриат Университета Варшавы, а в 2016 году защитил кандидатскую диссертацию в Университете Карнеги-Меллон — она посвящена алгоритмам оптимизации на графах. В 2017-м он присоединился к OpenAI — в частности, стал членом небольшой группы исследователей, которые в том же году создали ИИ, обыгравший профессиональную команду в DOTA2. Ключом к успеху тогда оказалось использование обучения с подкреплением — тот же подход Пахоцкий с коллегами позднее использовали при создании GPT-4. Обученная на текстах модель-трансформер затем настраивалась с помощью обучения с человеческим подкреплением — от людей, оценивающих полезность генерируемых ответов. После ухода Ильи Суцкевера с поста научного руководителя OpenAI Сэм Альтман передал должность Пахоцкому, назвав его «возможно, одним из величайших умов нашего поколения». |
 |
|
|
| номер сообщения: 49-58-45372 |
|
|
|
|
| номер сообщения: 49-58-45373 |
|
|
|
|
OpenAI
Мы делимся решением задачи о существовании и гладкости решений уравнений Навье — Стокса — одной из глубочайших проблем на переднем крае современной математики, входящей в число задач тысячелетия.
Доказательство было получено группой агентов с использованием модели следующего поколения OpenAI, значительно превосходящей GPT-6 Astra по своим возможностям.
Проблема заключается в том, могут ли гладкие трёхмерные движения жидкости, описываемые уравнениями Навье — Стокса, в какой-то момент перестать быть гладкими и привести к разрушению решения. Эта проблема остаётся нерешённой уже около 90 лет. |
|
|
|
| номер сообщения: 49-58-45374 |
|
|
|
|
Марк Чен
| Мы решили уравнения Навье-Стокса! Многие мои коллеги покинули свои области, потому что считали, что работа над ИИ — это самый быстрый способ решить глобальные проблемы их сфер. Невероятно видеть, как рушится первая из этих проблем, и наблюдать, как будущее, в которое мы верили, становится реальностью. |
|
|
|
| номер сообщения: 49-58-45375 |
|
|
| |
|
|
|
|
|
|
|
| Copyright chesspro.ru 2004-2026 гг. |
|
|
|
