AI 2023. Встречайте ChatGPT. - страница 84
Вы упускаете торговые возможности:
- Бесплатные приложения для трейдинга
- 8 000+ сигналов для копирования
- Экономические новости для анализа финансовых рынков
Регистрация
Вход
Вы принимаете политику сайта и условия использования
Если у вас нет учетной записи, зарегистрируйтесь
1. А ускоряется ли работа с информацией? В смысле, доступность информации "запроси и узнай" действительно становится больше при сравнении семантического поисковика (в лице обсуждаемых языковых моделей) и традиционного индексированного поиска по ключевым словам. Однако, когда речь заходит о той доступности, что похожа "запроси, узнай и сумей применить в реальной задаче", т.е. о практически полезных знаниях, то в этом смысле я не вижу никакого качественного скачка. И ограничителем здесь является вовсе не поисковик, а сам человек с его зависимостью от биохимической природы мышления, памяти и ума. На мой взгляд, доступность информации уже сейчас сильно превышает возможности индивида для её обработки (учтываем и объёмы, и наличие шума, ложных сведений и прочих препятствий, вроде платных подписок к научным базам).
Для того, чтобы освоить что-то до практически полезного уровня, не достаточно просто услышать ответ от поисковика (каким бы продвинутым или впечатляющим он ни был), нужно приложить усилия для осмысления реальных нюансов, развития навыков, мастерства и т.п. Т.е. специалистам в своих областях ИИ-помощники как бы и не нужны, ибо в своей сфере они уже освоились, а новички всё равно не способны на базе ответов от поисковика самостоятельно решать реальные задачи на уровне специалистов. В качестве примера напомню о практике некоторых новичков "программировать" по ответам из stackoverflow. Толку от этого мало, хоть и ответ очень доступный. И повышение доступности этого готового ответа не делает пользователя более способным к программированию. Чтобы стать специалистом, нужно тренировать свой ум в решении реальных задач в своей сфере, причём, делать это самостоятельно.
2. Настало время, когда специалисты в некоторых сферах начинают конкурировать не только между собой (что само по себе не просто уже сейчас), но и с дешёвым генератором их продукта. Думаю, легче этим специалистам не станет. Что толку им будет от того, что свою работу с помощью технологий они смогут выполнять легче, если им её будет доставаться всё меньше?
3. Если глубоко задуматься над тем, а какие вообще у нас тут мировые процессы происходят, то может оказаться так, что это ускорение, если оно и имеет место, вовсе не в интересах населения Земли. Впрочем, анализ субъектов мировых процессов, думаю, лучше отложить.
1. А ускоряется ли работа с информацией? - На мой взгляд, несомненно. LLM подключенные к интернету ускорят работу с информацией.
Сначала, рассмотрим сценарий привычного поиска по сайтам. Процесс последовательного, а иногда случайного перебора, начинающийся с предварительного просмотра "меню" и утверждения плана "навигации". Заходя на страницу, нас встречает сопутствующий контент - пестрый UI, ссылки, картинки, новостные ленты, комментарии, реклама. С первой секунды, сайт целенаправленно отвлекает внимание, с целью задержать. Им нужно, чтобы мы остались дольше. Чтобы ходили и петляли. И так делает каждый сайт. А когда найденный ответ не устраивает, мы переходим на следующий, где задерживают снова. Ситуация всем знакома.
Теперь в противовес, представим получение информации по запросу, без предварительных условий. Нам выдают варианты ответа со ссылками на источники, без рекламы и инфо мусора. Сайты сначала выдают запрашиваемое содержание, а затем предлагают к себе зайти. Разве не так должно быть с самого начала?
Теперь к вопросу обучения. Действительно, качественное образование можно получить лишь тяжелым трудом. Нужны учебники, преподаватели, репетиторы, оценки, домашние задания, контрольные работы, экзамены и так далее... Сократить время на такое образование возможно лишь за счет качества. Следовательно, LLM не ускорят ни школьное, ни университетское образование. Но, они ускорят "мозги" студентов.
Поясню:
В плане тренировки ума, практики решения задач, развития дисциплины, упорства и стремления, LLM не имеет никакого эффекта. Все зависит от человек и здесь я с вами согласен.
2. Конкуренция специалистов с дешевым генератором их продукта:
Да, работы специалистов станет меньше и они будут конкурировать с дешевым генератором их продукта (как вы сказали). Согласен. Однако, это побочный эффект технического прогресса и не отменяет факта, что все будет происходить быстрее.
Ускорится решение задач, проверка ответов, поиск информации, нахождение источников, сравнение результатов, оценка параметров, прогнозирование вариантов, подбор шаблонов, распознавание паттернов, классификация данных и так далее... Лингвистический интерфейс поможет объединить множество профильных программ вокруг одной комплексной задачи, без открытия десяти приложений на панели задач и последовательного ввода параметров в окна настроек. Работа ускорится, несомненно.
3. Ускорение не в наших интересах:
Ускорение жизни, это побочный эффект развития цивилизации и остановить его можно только остановив технологии. Если станет слишком плохо, мы можем принять такой выбор. Наверное...
...представим получение информации по запросу, без предварительных условий. Нам выдают варианты ответа со ссылками на источники, без рекламы и инфо мусора. Сайты сначала выдают запрашиваемое содержание, а затем предлагают к себе зайти. Разве не так должно быть с самого начала?
Раньше нужно было доделывать работу поисковика, который не умел в семантический анализ запроса и выдавал сырые результаты грубого индексного поиска (а также проплаченные позиции выдачи: ничего личного, только бизнес). Нужно было самостоятельно отфильтровать ценное от мусора. Теперь же речевой интерфейс замыкает контакт пользователя на себя, сам перерабатывает информацию (пока с переменным успехом, но все проблемы решаемы), ранжирует по степени проплаченности (а что, тут бизнеса не ожидается что ли?). Главное, что приучает к схеме "если тебе нужна информация, то лучший источник это я".
Будут ли пользователи делать больше запросов и получать больше ответов? Не думаю, ведь доступность информации не определяет потребность в ней. А значит, семантические поисковики просто сократят время и усилия по поиску (который обычно выполняется не ради развлечения, не так ли?). При этом привычки фильтровать и перепроверять информацию из сети (у которых они были) уйдут в прошлое и любой ответ ИИ будет принят на веру. Ох, какие сказочные возможности это открывает для воздействия на умы потребителей, избирателей, пациентов и пр.
Ускорится решение задач, проверка ответов, поиск информации, нахождение источников, сравнение результатов, оценка параметров, прогнозирование вариантов, подбор шаблонов, распознавание паттернов, классификация данных и так далее... Лингвистический интерфейс поможет объединить множество профильных программ вокруг одной комплексной задачи, без открытия десяти приложений на панели задач и последовательного ввода параметров в окна настроек. Работа ускорится, несомненно.
Т.к. всё это (кроме медиа-контента) так или иначе сводится к производству продуктов и услуг реального мира, то без резкого взлёта населения мира ожидать увеличения количества этой работы не стоит. А если работы больше не станет, но производительность работников вырастет, то потребность в работниках сократится. Собственно, это актуальная тенденция в некоторых сферах. Конкуренция растёт, стоимость труда падает, за те же деньги оставшиеся работники должны будут с помощью этих улучшателей жизни "успевать больше".
В общем, думаю, с этими прекрасными технологиями нам будет ещё долго о чём пофилософствовать.
Я нашёл способ отсылать ИИ длинные сообщения. Смотрите:
Pause Giant AI Experiments!
We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4.
22 March 2023
На сайте https://futureoflife.org/ опубликовано письменное обращение научной общественности ко всем AI-лабораториям, компаниям и IT-корпорациям проводящим разработку ИИ-систем способных превзойти GPT-4, с просьбой немедленно приостановить исследования как минимум на 6 месяцев.
На текущий день, письмо подписали 1123 человека. Среди них: Ученые, исследователи, преподаватели, университетские профессора, лауреаты научных премий, работники в сфере высокий технологий и искусственного интеллекта. (Из самых известный, пожалуй, Илон Маск)
Текст письма: (оригинал: https://futureoflife.org/open-letter/pause-giant-ai-experiments/) (Перевел ChatGPT)
Системы искусственного интеллекта с интеллектом, сравнимым с человеческим, могут представлять глубокие угрозы для общества и человечества, как показывает обширное исследование[1] и признают крупнейшие лаборатории искусственного интеллекта[2]. Как указано в широко поддерживаемых принципах искусственного интеллекта Асиломара, продвинутый искусственный интеллект может представлять глубокие изменения в истории жизни на Земле, и должен быть спланирован и управляем соответствующим образом. К сожалению, такой уровень планирования и управления не происходит, хотя за последние несколько месяцев лаборатории искусственного интеллекта заняты неуправляемой гонкой на создание и внедрение все более мощных цифровых умов, которые никто - даже их создатели - не может понять, предсказать или надежно контролировать.
Современные системы искусственного интеллекта становятся способными конкурировать с человеческим интеллектом в общих задачах[3], и мы должны задать себе вопросы: Следует ли позволять машинам затоплять наши информационные каналы пропагандой и ложью? Следует ли автоматизировать все работы, включая выполнение тех, которые приносят удовлетворение? Следует ли развивать нечеловеческий интеллект, который в конечном итоге может превосходить, обходить и заменять нас? Следует ли рисковать потерей контроля над нашей цивилизацией? Эти решения не должны быть делегированы невыбранным лидерам в области технологий. Мощные системы искусственного интеллекта должны быть разработаны только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми. Эта уверенность должна быть хорошо обоснована и увеличиваться с величиной потенциальных эффектов системы. Заявление OpenAI о искусственном общем интеллекте гласит, что "в какой-то момент может быть важно получить независимый обзор перед началом тренировки будущих систем, и для наиболее продвинутых усилий согласовать ограничение темпа роста вычислительных мощностей, используемых для создания новых моделей". Мы согласны. Этот момент настал.
Поэтому мы призываем все лаборатории искусственного интеллекта немедленно приостановить на период не менее 6 месяцев обучение систем искусственного интеллекта мощнее GPT-4. Эта пауза должна быть публичной и проверяемой, и включать всех ключевых участников. Если такая пауза не может быть быстро введена в действие, правительства должны вмешаться и ввести мораторий.
Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу для совместного разработки и внедрения набора общих протоколов безопасности для разработки и проектирования продвинутых систем искусственного интеллекта, которые будут строго проверяться и контролироваться независимыми внешними экспертами. Эти протоколы должны обеспечивать безопасность систем, следующих этим протоколам, без сомнений. Это не означает остановку развития искусственного интеллекта в целом, а просто отступление от опасной гонки за все более крупными непредсказуемыми черными ящиками с возникающими способностями.
Исследования и разработки искусственного интеллекта должны быть сосредоточены на повышении точности, безопасности, интерпретируемости, прозрачности, устойчивости, соответствия, доверия и лояльности существующих мощных современных систем.
В параллель с этим, разработчики искусственного интеллекта должны работать с законодателями, чтобы драматически ускорить разработку надежных систем управления искусственным интеллектом. Они должны включать, как минимум: новые и компетентные регуляторные органы, посвященные искусственному интеллекту; контроль и отслеживание высококвалифицированных систем искусственного интеллекта и больших объемов вычислительной мощности; системы происхождения и водяных знаков, помогающие различать реальное от синтетического и отслеживать утечки моделей; надежную экосистему аудита и сертификации; ответственность за вред, причиненный искусственным интеллектом; надежное государственное финансирование научных исследований по безопасности технологий искусственного интеллекта; и хорошо обеспеченные институты для справления с драматическими экономическими и политическими потрясениями (особенно в демократии), которые вызовет искусственный интеллект.
Человечество может наслаждаться процветанием в будущем с искусственным интеллектом. Нам удалось создать мощные системы искусственного интеллекта, и теперь мы можем наслаждаться "летом искусственного интеллекта", в котором мы собираем плоды, разрабатываем эти системы для явной пользы всем, и даем обществу шанс адаптироваться. Общество останавливалось на других технологиях с потенциально катастрофическими последствиями для общества.[5] Мы можем сделать это и здесь. Давайте насладимся долгим летом искусственного интеллекта, а не спешим неподготовленно в осень.
Pause Giant AI Experiments!
We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4.
Узнал о письме отсюда:
Imho, Американская пропаганда раздувает хайп вокруг AI, апеллируя к подсознательным страхам сформированным в детстве НФ литературой и Голливудом. Чем больше анализирую реальный эффект языковые моделей на общество и технологический прогресс, тем больше убеждаюсь в этом.
В следующих постах, более подробно разберем реальный "impact", оставив мифы и сказки в стороне.
Должен сказать, что с большим уважением отношусь к ученым подписавшим письмо. Однако, я устал от хайпа. Хочу видеть объективную картину происходящего. Какие угрозы несет AI и какие надуманы? Где жизнь, и где сказка? Где хайп, а где искренняя тревога?
Маск давно пугает публику страшилками про AI. Если бы автором письма был он один, я не стал всерьез его рассматривать. Однако, подпись поставили люди известные в научных кругах, и это заставляет отнестись к вопросу серьезно.
Что то подсказывает, что боятся ученые не AI, а людей. И поэтому, требуют принятия мер регуляции и контроля разработок. Прям, как с ядерным оружием...
Возможно, это попытка затормозить конкурентов в очередной технологической гонке. Все могут делать вид, что переживают о будущем человечества, но втихоря под одеялом в своих бизнес-интересах продолжать разработки и готовиться к стремительному внедрению после снятия "ограничений".
Вероятность подобного коварства, конечно, существует. Однако, если посмотреть имена, регалии и научные учреждения подписантов (на странице оригинала, под текстом письма), возникают сомнения. Возможно, многие поставили подпись не задумываясь. Или как дань уважения коллегам. Кто то мог нагнетать перед другими страхи. Кто то преследовал цель затормозить других. Мотивы, наверное, разные.
Стоит отметить, в письме есть откровенный призыв передать контроль AI-разработок законодателям, в случае если остановки не произойдет. Это настораживает. Странно, что они об этом заикнулись... Лучше бы, апеллировали к сознательности и ответственности разработчиков.
Ниже, подчеркнул ключевые фразы, откровенно намекающие "откуда ноги растут" у этого письма.
"...Поэтому мы призываем все лаборатории искусственного интеллекта немедленно приостановить на период не менее 6 месяцев обучение систем искусственного интеллекта мощнее GPT-4. Эта пауза должна быть публичной и проверяемой, и включать всех ключевых участников. Если такая пауза не может быть быстро введена в действие, правительства должны вмешаться и ввести мораторий."
"...Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу для совместного разработки и внедрения набора общих протоколов безопасности для разработки и проектирования продвинутых систем искусственного интеллекта, которые будут строго проверяться и контролироваться независимыми внешними экспертами. Эти протоколы должны обеспечивать безопасность систем, следующих этим протоколам, без сомнений."
"...В параллель с этим, разработчики искусственного интеллекта должны работать с законодателями, чтобы драматически ускорить разработку надежных систем управления искусственным интеллектом. Они должны включать, как минимум: новые и компетентные регуляторные органы, посвященные искусственному интеллекту; контроль и отслеживание высококвалифицированных систем искусственного интеллекта и больших объемов вычислительной мощности; системы происхождения и водяных знаков, помогающие различать реальное от синтетического и отслеживать утечки моделей; надежную экосистему аудита и сертификации; ответственность за вред, причиненный искусственным интеллектом; надежное государственное финансирование научных исследований по безопасности технологий искусственного интеллекта; и хорошо обеспеченные институты для справления с драматическими экономическими и политическими потрясениями (особенно в демократии), которые вызовет искусственный интеллект.."