Category: it

Такого использования нейросети я ещё не видел!

КДПВ (моя): Внутри крутейшего творения гениального Антонио Гауди, Собора Святого Семейства, Барселона, Испания.



Увы и ах, но с заморозкой своей вундервафли nntl я совершенно перестал читать и изучать новые веяния в Машинном Обучении. К счастью, время от времени твитырь приносит что-нить любопытное, и я не просто не могу не заглянуть внутрь. И вот сейчас принес вообще нечто особенное, чего я ранее вообще не встречал (возможно подход не нов, но см. дисклеймер выше).

А именно, трое сотрудников Гугла опубликовали препринт папира с неброским названием "Neural reparameterization improves structural optimization" [arxiv:1909.04240], что в вольном переводе может звучать как "Нейронная репараметризация улучшает оптимизацию структуры".

Шта?

далее на Хабре.

Оригинал записи тут: https://arech.dreamwidth.org/94438.html. Коментить лучше там (OpenID работает), но можно пока и тут.

Всемирная клоунада

Слайд со свежей конфы EMNLP (Empirical Methods in Natural Language Processing, где Natural Language Processing - подраздел Машинного Обучения, посвящённый работе с естественными языками)



(а дядечка-презентер за столом, - знаменитый Dan Jurafsky, - один из самых передовых учёных в области)

Всё таки не правы те горячие головы, кто говорит, что мы никакого вклада в человечество не делаем! Делаем, оказывается, и ещё какой! Качественные исходные данные предоставить - это вам не в тёпленьком кабинете сидеть и модельки крутить!

Оригинал записи тут: https://arech.dreamwidth.org/93314.html. Коментить лучше там (OpenID работает), но можно пока и тут.

Хинтон

Оказывается, Джефф Хинтон (живая легенда современной Computer Science масштаба если не Эйнштейна в физике, то не меньше Фейнмана точно, о котором дорогая редакция этого бложека уже как-то писала) 3 месяца назад делал сессию AMA на Реддите. А такие Амы интересны тем, что там герой может отвечать не только на чисто рабочие вопросы, но и вообще на всё, что посчитает интересным ответить (Ask Me Anything). А это, учитывая персону отвечающиего, в ряде случаев может быть исключительно интересно и поучительно, ибо это первоклассные мозги.
К сожалению, на не относящиеся к работе вопросы мэтр отвечал очень не часто, но многое из того, что он всё же освещал мне показалось достойным внимания. Делюсь.

Collapse )

"The start of Skynet" (c) - ну, почти.



Ребята из DeepMind cделали такую вот интересную штуковину: взяли семь старых игр для Atari и подали картинку с экрана на вход свёрточной нейросети, обучаемой несколько модифицированным алгоритмом Q-Learning. На выходе ждали сигнал, грубо говоря, какую кнопочку на клавиатуре нажимать. А скалярный сигнал {"умер", "выжил", "победил"} использовали для докрутки обучения сети...

"Сначала работало никак.
Через час тренировки - вроде как "понимало, чо надо делать".
Через два - играло лучше, чем любой известный человек.
Через четыре - открыло и стало использовать самую эффективную стратегию игры"

Collapse )

The GDELT Project

If you torture the data long enough, it will tell you everything!


Наткнулся на офигенное: The GDELT Project - глобальная база данных по событиям, контекстам событий, анализу тона, источникам информации, связанным метаданным и т.д. начиная с 1979 года по сегодняшний день. Пополняется ежедневно. Можно скачать себе на комп для домашнего анализа (около 100 гигов), можно смотреть с помощью онлайн инструментов.

Всего записано порядка 250 миллионов событий, а каждая запись набора имеет 58 атрибутов. Сам набор делится на 300 различных категорий.

Для трейдеров - фундаментальщиков, например, это должен быть просто королевский подарок.
А уж какой простор для новых открытий в стиле


Но ведь серьёзно - безумно интересный набор информации.
Спасибо хабраюзеру kuznetsovin