Неделя ссылок

Как стать исследователем механистической интерпретируемости: Здесь так много замечательного материала, даже если вам просто интересно ознакомиться с основами LLM.

Из этого списка курс ARENA по безопасности искусственного интеллекта является фантастическим — опять же, даже если вы просто интересуетесь основами LLM.

Модели машинного обучения запоминаются или обобщаются?: Отличное объяснение грокинга.

После того, как я услышал об этом в подкасте Дваркеша с Шолто Дугласом и Трентоном Брикеном, я прочитал «Символические виды» Терренса Дикона. Я многое узнал о языке, хотя должен признать, что мои глаза (как всегда) затуманиваются во время продолжительного обсуждения частей мозга. Определенно, стоит прочитать (и прослушать эпизод подкаста).

О процессе и ценности прямого воспроизведения: ответ на комментарий Шафира и Чика (2024) к книге «Чандрашекар и др.» (2021).: Так часто неудачи в воспроизведении экспериментальных результатов наталкиваются на множество пустых рассуждений о контексте, точном проведении эксперимента и тому подобном. Шафир и Чик привели один из таких примеров. Чандрашекар и Гилад Фельдман дают фантастический ответ.