Midjourney и другие нейросети обработки изображений - страница 684
Вы упускаете торговые возможности:
- Бесплатные приложения для трейдинга
- 8 000+ сигналов для копирования
- Экономические новости для анализа финансовых рынков
Регистрация
Вход
Вы принимаете политику сайта и условия использования
Если у вас нет учетной записи, зарегистрируйтесь
У тебя проф деформация
Всё верно. Уточню.
Согласно определениям из энциклопедий, вики и справочников, оптимизация — это процесс поиска наилучшего решения. То есть, если в процессе присутствует выбор лучшего варианта, это и есть процесс оптимизации.
Корень заблуждений кроется в том, что зачастую ставится знак равенства между понятиями "оптимизация" и "методы оптимизации". Это не просто недопонимание, а весьма фатальная ошибка.
Методы оптимизации имеют своё определение — это набор техник и алгоритмов, направленных на нахождение лучших решений для определённых задач. Эти методы могут варьироваться в зависимости от конкретной проблемы: для одних задач подходят одни техники, для других — совершенно другие.
Машинное обучение является подклассом процесса оптимизации и представляет собой набор специфических методов оптимизации в частном виде. В рамках машинного обучения модели обучаются на данных с целью минимизации ошибок при прогнозировании, что прямо относится к процессу оптимизации. Таким образом, множество методов машинного обучения стремится найти наилучшие параметры для решения конкретной задачи, делая его неотъемлемой частью общей области оптимизации.
Не, не так
Верно. Если в процессе нет выбора наилучшего решения, то либо процесс оптимизации уже закончен и используется наилучшая готовая модель (решение), либо это неосознанный случайный процесс.
Другими словами, любой осмысленный процесс либо представляет собой оптимизацию (поиск наилучшего решения), либо уже использует готовое наилучшее решение. Во всех остальных случаях - это случайный процесс.
1) Обучение модели МО - фиксация параметров модели конкретными числовыми значениями. Уже здесь кроется некоторое отличие от стандартного подхода к оптимизации. Зачастую в моделях МО отсутствует фиксированный, заранее заданный набор параметров - он может меняться по ходу обучения. Но это не принципиальная проблема, поскольку её можно решить расширив понятие параметров.
2) Обучение модели МО - это почти всегда многокритериальная оптимизация. При этом все эти критерии неравнозначны - например, они могут оптимизироваться по разным наборам параметров (не забываем про гиперпараметры). Ну и на практике мы не можем просто (по науке) построить поверхности Парето и спокойно выбирать на ней подходящие точки, особенно если речь о переменном наборе параметров.
Обучение модели МО не сводится к оптимизации в чистом виде ни в теории, ни на практике.
1) Обучение модели МО - фиксация параметров модели конкретными числовыми значениями. Уже здесь кроется некоторое отличие от стандартного подхода к оптимизации. Зачастую в моделях МО отсутствует фиксированный, заранее заданный набор параметров - он может меняться по ходу обучения. Но это не принципиальная проблема, поскольку её можно решить расширив понятие параметров.
2) Обучение модели МО - это почти всегда многокритериальная оптимизация. При этом все эти критерии неравнозначны - например, они могут оптимизироваться по разным наборам параметров (не забываем про гиперпараметры). Ну и на практике мы не можем просто (по науке) построить поверхности Парето и спокойно выбирать на ней подходящие точки, особенно если речь о переменном наборе параметров.
Обучение модели МО не сводится к оптимизации в чистом виде ни в теории, ни на практике.
Еще, если не вдаваться в математику подходов, то машинное обучение, в целом, используется для предсказаний, а оптимизация для поиска решений (predictive vs prescriptive). Хотя со вторым утверждением я бы тоже поспорил, что машинное обучение это тоже может.
https://www.forbes.com/councils/forbestechcouncil/2021/06/25/four-key-differences-between-mathematical-optimization-and-machine-learning/
Просто если вы не покажете мне валидное определение, объясняющее что МО это оптимизация, то я вас прокляну на вечное безТСное существование. За трату моего времени.
В общем ждем не нафантаированное определение оптимизации, которое включает в себя подраздел МО, и расходимся.
1) Обучение модели МО - фиксация параметров модели конкретными числовыми значениями. Уже здесь кроется некоторое отличие от стандартного подхода к оптимизации. Зачастую в моделях МО отсутствует фиксированный, заранее заданный набор параметров - он может меняться по ходу обучения. Но это не принципиальная проблема, поскольку её можно решить расширив понятие параметров.
2) Обучение модели МО - это почти всегда многокритериальная оптимизация. При этом все эти критерии неравнозначны - например, они могут оптимизироваться по разным наборам параметров (не забываем про гиперпараметры). Ну и на практике мы не можем просто (по науке) построить поверхности Парето и спокойно выбирать на ней подходящие точки, особенно если речь о переменном наборе параметров.
Обучение модели МО не сводится к оптимизации в чистом виде ни в теории, ни на практике.
Всё верно. Уточню.
Согласно определениям из энциклопедий, вики и справочников, оптимизация — это процесс поиска наилучшего решения. То есть, если в процессе присутствует выбор лучшего варианта, это и есть процесс оптимизации.
Корень заблуждений кроется в том, что зачастую ставится знак равенства между понятиями "оптимизация" и "методы оптимизации". Это не просто недопонимание, а весьма фатальная ошибка.
Методы оптимизации имеют своё определение — это набор техник и алгоритмов, направленных на нахождение лучших решений для определённых задач. Эти методы могут варьироваться в зависимости от конкретной проблемы: для одних задач подходят одни техники, для других — совершенно другие.
Машинное обучение является подклассом процесса оптимизации и представляет собой набор специфических методов оптимизации в частном виде. В рамках машинного обучения модели обучаются на данных с целью минимизации ошибок при прогнозировании, что прямо относится к процессу оптимизации. Таким образом, множество методов машинного обучения стремится найти наилучшие параметры для решения конкретной задачи, делая его неотъемлемой частью общей области оптимизации.
Верно. Если в процессе нет выбора наилучшего решения, то либо процесс оптимизации уже закончен и используется наилучшая готовая модель (решение), либо это неосознанный случайный процесс.
Другими словами, любой осмысленный процесс либо представляет собой оптимизацию (поиск наилучшего решения), либо уже использует готовое наилучшее решение. Во всех остальных случаях - это случайный процесс.
... свои же книжки не читал
Определение и смысл слова "оптимизация" - процесс поиска наилучшего решения.
Теперь берём с полки книжки, стряхиваем с них пыль и обнаруживаем следующее:
1. Кристофер Бишоп (Christopher Bishop):
- В своей книге "Pattern Recognition and Machine Learning" он обсуждает, как обучение моделей включает оптимизацию параметров для достижения наилучших показателей.
2. Байрон Дж. Г. Конн:
- В своей книге "Machine Learning: A Probabilistic Perspective" он обсуждает подходы к обучению моделей как к задачам оптимизации, прямо указывая на то, что поиск оптимальных параметров модели являются процессом оптимизации.
3. Д. Полин (D. Poli):
- В своих работах по алгоритмам искусственного интеллекта и оптимизации указывает на то, что техники машинного обучения являются специфическими примерами оптимизационных задач, так как они направлены на минимизацию ошибок и улучшение прогноза.
4. Ширли Ван Мерен (Shirley Van Meren):
- В своих исследованиях по нейронным сетям утверждает, что обучение нейронных сетей можно рассматривать как задачу оптимизации, где цель — минимизация функции потерь.
5. Курт В. М. Ингенбе (Kurt W. M. Ingenbe):
- В своих работах он подчеркивает, что многие методы машинного обучения, такие как градиентный спуск, являются непосредственными примерами алгоритмов оптимизации в рамках поиска наилучших решений.
6. Стюарт Рассел и Питер Норвиг:
- В своей книге "Artificial Intelligence: A Modern Approach" они обсуждают алгоритмы машинного обучения в контексте поиска оптимального решения, рассматривая их как часть более общей темы оптимизации.
Эти исследователи акцентируют внимание на том, что машинное обучение можно и нужно рассматривать как частный случай оптимизационных процессов, поскольку цель обучения заключается в поиске наилучших решений (см. определение оптимизации) для улучшения прогнозов и распознавания закономерностей.
Существует только один известный человечеству неосознанный процесс оптимизации, но у этого процесса есть свое название — эволюция.
Эволюция, в конечном итоге, всегда приводит к увеличению энтропии, в то время как оптимизация нацелена на её уменьшение. Таким образом, эволюция и оптимизация представляют собой два антипода, имеющих схожую сущность: движение к глобальному оптимуму (эволюция к максимуму энтропии, а оптимизация к минимуму). В этом контексте оптимизация является единственной силой в природе, препятствующей распаду Вселенной и её тепловой смерти. Это можно сравнить с борьбой добра и зла, однако в Википедии об этом не упоминается, конечно же.
Эволюция и оптимизация - два брата близнеца, ведущих Вселенную через время. Такие похожие и такие разные одновременно. У одного задача - распылить всё сущее в океане равномерного бульона, а у другого - привести материю и энергию в строгое упорядоченное состояние.
МО выделен в отдельную область знаний как подкласс оптимизации чтобы подчеркнуть специфичность используемых методов именно в обработке информации. Но цель остаётся та же - оптимизация как поиск наилучшего решения (такая конфигурация модели, статичная или динамическая, которая даёт наименьшую ошибку на новых данных).
Итак:
Машинное обучение представляет собой набор методов для решения задачи, в которой целевая функция (функция потерь) измеряет, насколько хорошо модель работает в сравнении с ожидаемыми значениями. Процесс обучения включает в себя итеративное улучшение модели, направлении к минимизации этой функции потерь, что делает машинное обучение частным случаем оптимизационных процессов.
Посему, не нужно стесняться оптимизации, это такой же естественный и глобальный процесс, как и эволюция. Только если эволюция увеличивает энтропию, то оптимизация уменьшает. Каждый волен решать сам, эволюционировать ли (увеличивать свою энтропию), либо оптимизироваться - улучшать своё состояние, увеличивать знания и совершенствоваться.
Всем добра!
- В своей книге "Artificial Intelligence: A Modern Approach" они обсуждают алгоритмы машинного обучения в контексте поиска оптимального решения, рассматривая их как часть более общей темы оптимизации.