Под принципами я имел в виду логические принципы, то есть обработку информации. Если на изображении есть вертикальная линия, значит нейросеть должна распознавать вертикальную линию. А спайковые нейросети ее обрабатывают или нет, это уже детали реализации.
Отличный пример, что сеть ничего не понимает, а просто «восстанавливает» текст по статистическим данным. Бокр воспринялось как близкий корню мокр, достроилось до мокрая. К слову мокрая ассоциативно близко находится слово ветвь (если сеть обучалась на художественной литературе). А ветви в той же литературе часто отводят «в сторону». Вот и получается такая цепочка бреда. Кстати, это похоже на речь, что выдают люди с повреждением мозга в какой-то там области. Речь течёт по ассоциациям без какого-то смысла, но роды, падежи и т.п. в ней согласованы.
довести до коммерческого внедрения и популяризировать — это большое дело, и я уважаю Apple за многие хорошие вещи, которые, фактически стали стандартом. Но компания так-же убила некоторые хорошие стандарты, например миниджек в телефонах: с ним я могу всегда носить с собой наушники вкладыши и не беспокоиться о их зарядке — они всегда готовы к использованию, а переходник на миниджек сильно увеличивает занимаемое место…
а меня бесят и винда и маком из-за невозможности применить мои юзкейсы
и задержка отображения запущенного приложения — это тоже субъективная проблемма и не для всех отсутствие этого лага важно, например в моих юзкейсах такого нет, т.к. я всегда точно знаю, запускается ли программа, т.к. делаю это с клавиатуры
в сегодняшнем мире проблемам в том, что покупатель не выбирает продукт по своим потребностям
На мой взгляд данный подход присущ людям с «бедным» менталитетом. Кому важнее казаться чем быть. Не спорю, я встречал таких. Например, одной коллеге по банку муж подарил макбук, а она его не использовала. Но там муж работал в финансовой полиции. Или как-то моя жена мне сказала: следующий телефон пож-та на андроид. Я с удивлением: «почему?» Мы тогда купили квартиру в центре города. Она отвечает: «а ты посмотри на молодых мамочек в нашем районе: искусственные блондинки в порванных джинсах, с наращенными ногтями и ресницами и золотистыми айфонами. Они все между собой общаются.» Вот такой был тренд в том районе. В общем у жены с тех пор Google Pixel :)
А что касательно моего IT окружения на работе, то я не видел такого преклонения перед Apple. Люди выбирали удобные железки для работы и жизни, которые вписывались в бюджет.
Уверяю вас, ее «эмпирический опыт» — это гигабайты текста, где слова не просто так стоят, а выражают некий определенный смысл.
Ну и что? Важно то, что у нее нет связи этих слов с реальностью, связи есть только между самим словами, и смысла, который они выражают, она не понимает. У вас может быть гигабайты текста на китайском (или другом языке, который вы не знаете), вы можете даже найти в нем некоторые закономерности, но вы не сможете его понять, рассказать текст другими словами на том же языке, или еще какие-нибудь интеллектуальные задачи, если вы не знаете перевода слов. Вот и GPT так же.
Как видите, даже GPT-2 вполне понимает и действие и пол «персонажа», и его (её) активное начало в заданном контексте.
Ну да, я об этом и говорю. Для нее этот бессмысленный текст ничем не отличается от осмысленного текста, она одинаково работает и с тем и с другим. Для нее это просто какие-то слова, которые можно расположить по определенным правилам.
Если написать фразу "Бокр бодланул глокую куздру", она точно также сможет ее продолжить. А результат интеллектуального анализа текста может например быть таким "Как же бокр может бодлануть куздру, у него же рогов нет?". GPT в принципе на это неспособна.
Кстати, в человеческом мозге математические задачи вызывают активацию зон, связываемых с пространственным воображением и работой с числами, а не речевых зон.
Еще важно, что эмбендинг GPT/BERT оперируют не словами… Ну, т.е. не обязательно словами. Это как раз «сентенция» — т.е. некий текст, который влезает за раз в окно внимания трансформера (а он даже у BERT и GPT-2 приличный — уж на предложение точно хватит!).
Т.е. мы берем начальное… Ну, допустим умозаключение: «Кошки питаются мышами». И конечное — «Таким образом кошки — весьма полезные существа». Оба пропускаем через сеть и на выходе имеем некий вектор заданной размерности. Далее для первого считаем следующий наиболее вероятный токен (вернее 40 наиболее вероятных), и смотрим куда ВЕСЬ текст сместится при добавлении каждого из 40 вариантов (да — тупо прогоняем через сеть и смотрим, что получается). Выбираем смещение наиболее в нужную сторону и от этой новой точки считаем следующий токен… Интересно должно выйти! И не очень сложно, вроде бы.
В процессе — мы можем отсекать начало суждения (по мере того, как длина текста растет и мы рискуем превысить окно внимания). Причем, думаю лучше это делать не по мере переполнения, а заранее — как только у нас есть два законченных предложения, например, мы можем отбросить первое…
У меня похожий с вами жизненный путь. Только на моменте «не клеится с противоположным полом» я случайно наткнулся на такое явление как пикап и меня заинтересовало более менее разобраться с этим вопросом. В каком-то смысле тут мне крупно повезло во второй раз. Поэтому я не имею права в полной мере комментировать вашу ситуацию, так как не прожил вашу жизнь. Если хотите, то можно более подробно поговорить в личке.
Пикап, кстати, стало причиной того, что я практически утратил интерес к программированию компьютеров и переключился на проблемы общества, так как общество я воспринимаю как огромный нейрокомпьютер, который можно перенастроить так, чтобы он не вываливал экстремальные градиенты страданий и смерти на те исполнительные элементы (людей), которые этого совсем не заслужили.
Это какой-то ультрафатализм, который напрочь отрицает свободу выбора и свободу воли. Нет, я согласен с вами, что на микроуровне всё предопределено (даже если учесть кванты, но не будем об этом), но тогда у общества есть куда большие проблемы, потому что вы больше не можете судить людей (точно так же, как вы не судите программы), вы не можете хвалить людей (потому что всё предопределено), вы не можете награждать людей, вы не можете вообще ничего делать
Вы может очень сильно удивитесь, но примерно в таком восприятии мира я и стараюсь жить. Не суди и не хвали того, чью историю ты не прожил. Самое ключевое — внутри себя не суди, не захламляй свой внутренний мир бесполезными эмоциональными реакциями, так как через них могут быть пошагово уничтожены ценности, на которых твоя личность основана (пример — окно Овертона). Внешне обратную связь другим людям всё равно нужно давать — это именно что обратная связь, а не суд, и она направлена на корректировку траектории движения человека, если это возможно. То есть делать что-то нужно обязательно и, желательно, больше других.
И у общества действительно очень большие проблемы на данный момент. Тотальная путаница в причинах и следствиях. Плюрализм и популизм стали важнее репутации. Люди в поиске консенсуса или конфликта всё чаще ищут второе. Всё это вместе можно назвать обществом постмодернизма. Такое общество неспособно пройти Великий Фильтр, если гипотеза о нём верна. Есть ещё надежда, что начнётся переход в неомодернизм, но для этого надо большому количеству людей, у которых остался разум, серьёзно напрячься.
Подписаться на рассылку
Из того чем пользуюсь каждый день:
+ общий буфер обмена
+ AirDrop
+ синхронизация фоток, заметок
+ разблокировка часами
+ пароли в keychain
При афазии Вернике
Под принципами я имел в виду логические принципы, то есть обработку информации. Если на изображении есть вертикальная линия, значит нейросеть должна распознавать вертикальную линию. А спайковые нейросети ее обрабатывают или нет, это уже детали реализации.
довести до коммерческого внедрения и популяризировать — это большое дело, и я уважаю Apple за многие хорошие вещи, которые, фактически стали стандартом. Но компания так-же убила некоторые хорошие стандарты, например миниджек в телефонах: с ним я могу всегда носить с собой наушники вкладыши и не беспокоиться о их зарядке — они всегда готовы к использованию, а переходник на миниджек сильно увеличивает занимаемое место…
а меня бесят и винда и маком из-за невозможности применить мои юзкейсы
и задержка отображения запущенного приложения — это тоже субъективная проблемма и не для всех отсутствие этого лага важно, например в моих юзкейсах такого нет, т.к. я всегда точно знаю, запускается ли программа, т.к. делаю это с клавиатуры
На мой взгляд данный подход присущ людям с «бедным» менталитетом. Кому важнее казаться чем быть. Не спорю, я встречал таких. Например, одной коллеге по банку муж подарил макбук, а она его не использовала. Но там муж работал в финансовой полиции. Или как-то моя жена мне сказала: следующий телефон пож-та на андроид. Я с удивлением: «почему?» Мы тогда купили квартиру в центре города. Она отвечает: «а ты посмотри на молодых мамочек в нашем районе: искусственные блондинки в порванных джинсах, с наращенными ногтями и ресницами и золотистыми айфонами. Они все между собой общаются.» Вот такой был тренд в том районе. В общем у жены с тех пор Google Pixel :)
А что касательно моего IT окружения на работе, то я не видел такого преклонения перед Apple. Люди выбирали удобные железки для работы и жизни, которые вписывались в бюджет.
Ну и что? Важно то, что у нее нет связи этих слов с реальностью, связи есть только между самим словами, и смысла, который они выражают, она не понимает. У вас может быть гигабайты текста на китайском (или другом языке, который вы не знаете), вы можете даже найти в нем некоторые закономерности, но вы не сможете его понять, рассказать текст другими словами на том же языке, или еще какие-нибудь интеллектуальные задачи, если вы не знаете перевода слов. Вот и GPT так же.
Ну да, я об этом и говорю. Для нее этот бессмысленный текст ничем не отличается от осмысленного текста, она одинаково работает и с тем и с другим. Для нее это просто какие-то слова, которые можно расположить по определенным правилам.
Если написать фразу "Бокр бодланул глокую куздру", она точно также сможет ее продолжить. А результат интеллектуального анализа текста может например быть таким "Как же бокр может бодлануть куздру, у него же рогов нет?". GPT в принципе на это неспособна.
Кстати, в человеческом мозге математические задачи вызывают активацию зон, связываемых с пространственным воображением и работой с числами, а не речевых зон.
Еще важно, что эмбендинг GPT/BERT оперируют не словами… Ну, т.е. не обязательно словами. Это как раз «сентенция» — т.е. некий текст, который влезает за раз в окно внимания трансформера (а он даже у BERT и GPT-2 приличный — уж на предложение точно хватит!).
Т.е. мы берем начальное… Ну, допустим умозаключение: «Кошки питаются мышами». И конечное — «Таким образом кошки — весьма полезные существа». Оба пропускаем через сеть и на выходе имеем некий вектор заданной размерности. Далее для первого считаем следующий наиболее вероятный токен (вернее 40 наиболее вероятных), и смотрим куда ВЕСЬ текст сместится при добавлении каждого из 40 вариантов (да — тупо прогоняем через сеть и смотрим, что получается). Выбираем смещение наиболее в нужную сторону и от этой новой точки считаем следующий токен… Интересно должно выйти! И не очень сложно, вроде бы.
В процессе — мы можем отсекать начало суждения (по мере того, как длина текста растет и мы рискуем превысить окно внимания). Причем, думаю лучше это делать не по мере переполнения, а заранее — как только у нас есть два законченных предложения, например, мы можем отбросить первое…
Надо как-нить попробовать! )
У меня похожий с вами жизненный путь. Только на моменте «не клеится с противоположным полом» я случайно наткнулся на такое явление как пикап и меня заинтересовало более менее разобраться с этим вопросом. В каком-то смысле тут мне крупно повезло во второй раз. Поэтому я не имею права в полной мере комментировать вашу ситуацию, так как не прожил вашу жизнь. Если хотите, то можно более подробно поговорить в личке.
Пикап, кстати, стало причиной того, что я практически утратил интерес к программированию компьютеров и переключился на проблемы общества, так как общество я воспринимаю как огромный нейрокомпьютер, который можно перенастроить так, чтобы он не вываливал экстремальные градиенты страданий и смерти на те исполнительные элементы (людей), которые этого совсем не заслужили.
Вы может очень сильно удивитесь, но примерно в таком восприятии мира я и стараюсь жить. Не суди и не хвали того, чью историю ты не прожил. Самое ключевое — внутри себя не суди, не захламляй свой внутренний мир бесполезными эмоциональными реакциями, так как через них могут быть пошагово уничтожены ценности, на которых твоя личность основана (пример — окно Овертона). Внешне обратную связь другим людям всё равно нужно давать — это именно что обратная связь, а не суд, и она направлена на корректировку траектории движения человека, если это возможно. То есть делать что-то нужно обязательно и, желательно, больше других.
И у общества действительно очень большие проблемы на данный момент. Тотальная путаница в причинах и следствиях. Плюрализм и популизм стали важнее репутации. Люди в поиске консенсуса или конфликта всё чаще ищут второе. Всё это вместе можно назвать обществом постмодернизма. Такое общество неспособно пройти Великий Фильтр, если гипотеза о нём верна. Есть ещё надежда, что начнётся переход в неомодернизм, но для этого надо большому количеству людей, у которых остался разум, серьёзно напрячься.