Category: технологии

Такого использования нейросети я ещё не видел!

КДПВ (моя): Внутри крутейшего творения гениального Антонио Гауди, Собора Святого Семейства, Барселона, Испания.



Увы и ах, но с заморозкой своей вундервафли nntl я совершенно перестал читать и изучать новые веяния в Машинном Обучении. К счастью, время от времени твитырь приносит что-нить любопытное, и я не просто не могу не заглянуть внутрь. И вот сейчас принес вообще нечто особенное, чего я ранее вообще не встречал (возможно подход не нов, но см. дисклеймер выше).

А именно, трое сотрудников Гугла опубликовали препринт папира с неброским названием "Neural reparameterization improves structural optimization" [arxiv:1909.04240], что в вольном переводе может звучать как "Нейронная репараметризация улучшает оптимизацию структуры".

Шта?

далее на Хабре.

Оригинал записи тут: https://arech.dreamwidth.org/94438.html. Коментить лучше там (OpenID работает), но можно пока и тут.

Про прогнозирование будущего

Очень понравилась очередная работа Дерека Мюллера (хотя вообще-то у него практически все работы качественные; он один из оооочень немногих ютюберов-популяризаторов, если вообще не единственный, кто оказался способен держать высоченную планку качества долгое время)



Самой интересной для меня в ней была первая часть, где Дерек рассказывает, что думали о возможности управляемой ядерной реакции и ядерной бомбы одни из самых лучших умов человечества. Даже Сам великий Эйнштейн всего за какие-то жалкие 12 лет до бомбардировок Хиросимы и Нагосаки был уверен в невозможности управляемой ядерной реакции.

Точнее всего на тему прогнозирования будущего на мой взгляд высказался Джефри Хинтон в заключении своего крутейшего курса по нейросетям на курсере: "Будущее скрыто в тумане неизвестности, и как с всяким туманом, видимость сквозь него падает экспоненциально быстро. Поэтому если неопределённость/сложность прогнозирования на два года возрастает всего в два раза, то за десять лет сложность вырастет уже в целых 2^5=32 раза. Поэтому если мы можем более-менее уверенно дать прогноз на 3-5 лет, то на 10 и тем более 15 лет сказать что-то надёжно почти невозможно."

Оригинал записи тут: https://arech.dreamwidth.org/89434.html. Коментить лучше там (OpenID работает), но можно пока и тут.

Хинтон

Оказывается, Джефф Хинтон (живая легенда современной Computer Science масштаба если не Эйнштейна в физике, то не меньше Фейнмана точно, о котором дорогая редакция этого бложека уже как-то писала) 3 месяца назад делал сессию AMA на Реддите. А такие Амы интересны тем, что там герой может отвечать не только на чисто рабочие вопросы, но и вообще на всё, что посчитает интересным ответить (Ask Me Anything). А это, учитывая персону отвечающиего, в ряде случаев может быть исключительно интересно и поучительно, ибо это первоклассные мозги.
К сожалению, на не относящиеся к работе вопросы мэтр отвечал очень не часто, но многое из того, что он всё же освещал мне показалось достойным внимания. Делюсь.

Collapse )