Feed aggregator
Pour la science №575 — изучение поведения ИИ
Статья о двух подходах к построению ИИ: connexioniste («коннектирующий»? это современные нейронные сети — то, что нормальный человек представляет, когда ему говорят «ИИ») и symbolique («символические»? это программы, построенные на чётко сформулированных правилах — первые шахматные программы были именно такими). Чуть дальше в статье приводят ещё лучший пример символического ИИ: экспертная система по идентификации бактерий, начала 1970. Она уже тогда работала лучше врачей-людей, и уже тогда не допустили практического её использования, потому что непонятно было, чья ответственность в случае ошибочного диагноза.
Меня в статье больше заинтересовал подход к изучению ИИ. Автор начинает с констатации: нынешние LLM (он приводит результаты GPT-4) плохо решают арифметические задачи. Лично я обычно на этом месте говорил себе «ну да, а микроскоп очень плохо забивает гвозди — не для арифметики же делались эти системы!». Автор же цитирует исследование вероятности правильного ответа на задачки по сложению / умножению цепочки чисел от 1 до 100, а зависимости от длины цепочки. На 2 числах всё хорошо, начиная с 3-х чисел качество умножения резко снижается. Сложение держится до 6-7 чисел, затем вероятность получить правильный ответ тоже очень быстро падает до нуля. В этот момент я про себя отметил, что это примерно соответствует поведению человека: нормальный человек уверенно помнит таблицу умножения, но 5 чисел перемножить в уме уже не в состоянии.
Затем автор пересказывает разные подходы по улучшению этих показателей, оставаясь внутри парадигмы LLM. Например, сделать так, чтобы числа разбивались на токены не слева направо, а справа налево. Это действительно улучшает результат, но не радикально. Другой подход — делать отдельные токены для каждой цифры, причём привязывать к цифре ещё и её положение в числе. Ну и так далее — люди пытаются что-то изменить в сети и смотрят, что из этого получается. Не влезая глубоко в недра теории, просто поверхностно меняя правила на уже работающей сети.
И в этот момент я задумался, что перед нами внезапно появилось целое поле исследований. Грубо говоря, у нас была педагогика — как учатся люди. У нас была зоопсихология — мы изучали, что умеют делать собаки, вороны, дельфины, муравьи. А теперь мы можем изучать, что могут делать нейронные сети. То есть это не та же профессия, что построение этих сетей — они отличаются примерно как анатомия от психологии. И то, и другое про то «как устроен человек», но всё равно, это разные профессии.
Возвращаясь к теме двух систем: в какой-то момент автор предсказуемо сваливается в идею «истина где-то посередине», в том смысле, что нужно пытаться комбинировать коннектирующий подход с символическим. Приводит аналогию с нашим мозгом, у которого тоже есть система быстрого реагирования, аналог коннектирующего ИИ, и система вдумчивого принятия решения, аналог символического ИИ. Ну и напоминает, что современные LLM, конечно же, тоже умеют вызывать внешние экспертные системы, если понимают, что те смогут более эффективно решать поставленные задачи. Примерно как человек достаёт калькулятор.
Меня в статье больше заинтересовал подход к изучению ИИ. Автор начинает с констатации: нынешние LLM (он приводит результаты GPT-4) плохо решают арифметические задачи. Лично я обычно на этом месте говорил себе «ну да, а микроскоп очень плохо забивает гвозди — не для арифметики же делались эти системы!». Автор же цитирует исследование вероятности правильного ответа на задачки по сложению / умножению цепочки чисел от 1 до 100, а зависимости от длины цепочки. На 2 числах всё хорошо, начиная с 3-х чисел качество умножения резко снижается. Сложение держится до 6-7 чисел, затем вероятность получить правильный ответ тоже очень быстро падает до нуля. В этот момент я про себя отметил, что это примерно соответствует поведению человека: нормальный человек уверенно помнит таблицу умножения, но 5 чисел перемножить в уме уже не в состоянии.
Затем автор пересказывает разные подходы по улучшению этих показателей, оставаясь внутри парадигмы LLM. Например, сделать так, чтобы числа разбивались на токены не слева направо, а справа налево. Это действительно улучшает результат, но не радикально. Другой подход — делать отдельные токены для каждой цифры, причём привязывать к цифре ещё и её положение в числе. Ну и так далее — люди пытаются что-то изменить в сети и смотрят, что из этого получается. Не влезая глубоко в недра теории, просто поверхностно меняя правила на уже работающей сети.
И в этот момент я задумался, что перед нами внезапно появилось целое поле исследований. Грубо говоря, у нас была педагогика — как учатся люди. У нас была зоопсихология — мы изучали, что умеют делать собаки, вороны, дельфины, муравьи. А теперь мы можем изучать, что могут делать нейронные сети. То есть это не та же профессия, что построение этих сетей — они отличаются примерно как анатомия от психологии. И то, и другое про то «как устроен человек», но всё равно, это разные профессии.
Возвращаясь к теме двух систем: в какой-то момент автор предсказуемо сваливается в идею «истина где-то посередине», в том смысле, что нужно пытаться комбинировать коннектирующий подход с символическим. Приводит аналогию с нашим мозгом, у которого тоже есть система быстрого реагирования, аналог коннектирующего ИИ, и система вдумчивого принятия решения, аналог символического ИИ. Ну и напоминает, что современные LLM, конечно же, тоже умеют вызывать внешние экспертные системы, если понимают, что те смогут более эффективно решать поставленные задачи. Примерно как человек достаёт калькулятор.
Categories: Friends
Claire Tabouret в Musée des Beaux-Arts de Rennes
Временная выставка — Claire Tabouret. Я о ней ничего раньше не слышал, с тех пор прочитал, что она делает сейчас новые витражи для какой-то части Нотр-Дама.
«Les Veuilleurs» (перевод, наверное, то ли «бдящие», то ли «светильники»), 2014. От этой картины у меня какое-то странное ощущение, как будто от наших фотографий из садика. С одной стороны — все в костюмах, мальчики-зайчики, с другой — крайне серьёзные лица, радоваться будем когда скажут радоваться.
Аналогично с этой картиной — «Les Débutantes» (опять же, наверное имеются в виду «выпускницы»?), 2014. Контраст нарядного платья и серьёзного лица как бы создаёт иллюзию, что тебе удалось заглянуть в «настоящего» человека, а не просто посмотреть на ту маску, которую он показывает каждый день.
«Sitting» (здесь пишут, что это и «сидеть» и «позировать»), 2016. Кураторы очень верно замечают, что её групповые картины — без какой бы то ни было иерархии. Взгляд свободно скользит от одной фигуры к другой. Они при этом все разные, и все достаточно реалистические — рано или поздно мозг начинает «узнавать» что-то, «вспоминать» о чём-то своём. Кайф!
«L’Errante 4», 2013. Пишут, что это портрет Изабель Эберхард, писательницы и путешественницы конца XIX века. Она ездила в одиночку по Сахаре, переодевшись мужчиной. Разговаривала на множестве языков (русский, французский, немецкий, арабский — отличный набор!). Погибла в Алжире в возрасте 27 лет — река внезапно разлилась и затопила деревню. Отличный набор контрактов, привлёкший, пишут кураторы, внимание художницы: мужское / женское, Европа / Африка, пишущая для публики журналистка / в одиночестве проходящая пустыню женщина.
Серия «Meakeup», 2017-2021.
А эту работу Клер представляла в павильоне Ватикана на Венецианском Биеннале 2024 года. Она сделала её в женской тюрьме Венеции.
На этом месте я такой, в шоке: там есть тюрьма?! — Да, есть, на Джудекке. Полез проверять, как пишется Джудекка по-русски, наткнулся на праздник 20 июля, в честь окончания чумы 1577 года. С тех пор каждый год строят понтонный (раньше из галер) мост от Сан-Марко до Джудекки — я хочу туда! Продолжаю бесконечно любить этот город.
Возвращаясь к тюрьме: Клер попросила заключённых принести ей фотографии своих близких, или просто фотографии себя маленькими. Что-то близкое сердцу. И сделала из этих очень личных предметов — с одной стороны уникальное (в смысле противопоставления тиражу той же фотографии) произведение искусства, с другой — объект для музея, призванный быть увиденным массами.
Два автопортрета, 2020 и 2021. Это время ковида, люди заперты дома, повод задуматься — кто ты, что ты? Редкий у художницы портрет, когда модель не смотрит прям в глаза зрителю.
Клер два года вела дневник автопортретов — каждое утро рисовала себя тушью по рисовой бумаге. Фотографировать я не стал, тут интереснее сам концепт наблюдать за собой, за своим настроением, за своим желанием заниматься деталями. Приводят цитату другой японской художницы: наше тело на 80% состоит из воды — стоит ли удивляться тому, что каждое утро мы видим в зеркале новое лицо? У меня есть такое: время от времени, раз в несколько лет, я смотрю на своё отражение в зеркале, и внезапно вижу, как я изменился. Как будто в голове хранился какой-то кэш, старая картинка для узнавания себя на фотографиях — а в этот день ты понимаешь, что пора подкачать новую.
«Les Veuilleurs» (перевод, наверное, то ли «бдящие», то ли «светильники»), 2014. От этой картины у меня какое-то странное ощущение, как будто от наших фотографий из садика. С одной стороны — все в костюмах, мальчики-зайчики, с другой — крайне серьёзные лица, радоваться будем когда скажут радоваться.
Аналогично с этой картиной — «Les Débutantes» (опять же, наверное имеются в виду «выпускницы»?), 2014. Контраст нарядного платья и серьёзного лица как бы создаёт иллюзию, что тебе удалось заглянуть в «настоящего» человека, а не просто посмотреть на ту маску, которую он показывает каждый день.
«Sitting» (здесь пишут, что это и «сидеть» и «позировать»), 2016. Кураторы очень верно замечают, что её групповые картины — без какой бы то ни было иерархии. Взгляд свободно скользит от одной фигуры к другой. Они при этом все разные, и все достаточно реалистические — рано или поздно мозг начинает «узнавать» что-то, «вспоминать» о чём-то своём. Кайф!
«L’Errante 4», 2013. Пишут, что это портрет Изабель Эберхард, писательницы и путешественницы конца XIX века. Она ездила в одиночку по Сахаре, переодевшись мужчиной. Разговаривала на множестве языков (русский, французский, немецкий, арабский — отличный набор!). Погибла в Алжире в возрасте 27 лет — река внезапно разлилась и затопила деревню. Отличный набор контрактов, привлёкший, пишут кураторы, внимание художницы: мужское / женское, Европа / Африка, пишущая для публики журналистка / в одиночестве проходящая пустыню женщина.
Серия «Meakeup», 2017-2021.
А эту работу Клер представляла в павильоне Ватикана на Венецианском Биеннале 2024 года. Она сделала её в женской тюрьме Венеции.
На этом месте я такой, в шоке: там есть тюрьма?! — Да, есть, на Джудекке. Полез проверять, как пишется Джудекка по-русски, наткнулся на праздник 20 июля, в честь окончания чумы 1577 года. С тех пор каждый год строят понтонный (раньше из галер) мост от Сан-Марко до Джудекки — я хочу туда! Продолжаю бесконечно любить этот город.
Возвращаясь к тюрьме: Клер попросила заключённых принести ей фотографии своих близких, или просто фотографии себя маленькими. Что-то близкое сердцу. И сделала из этих очень личных предметов — с одной стороны уникальное (в смысле противопоставления тиражу той же фотографии) произведение искусства, с другой — объект для музея, призванный быть увиденным массами.
Два автопортрета, 2020 и 2021. Это время ковида, люди заперты дома, повод задуматься — кто ты, что ты? Редкий у художницы портрет, когда модель не смотрит прям в глаза зрителю.
Клер два года вела дневник автопортретов — каждое утро рисовала себя тушью по рисовой бумаге. Фотографировать я не стал, тут интереснее сам концепт наблюдать за собой, за своим настроением, за своим желанием заниматься деталями. Приводят цитату другой японской художницы: наше тело на 80% состоит из воды — стоит ли удивляться тому, что каждое утро мы видим в зеркале новое лицо? У меня есть такое: время от времени, раз в несколько лет, я смотрю на своё отражение в зеркале, и внезапно вижу, как я изменился. Как будто в голове хранился какой-то кэш, старая картинка для узнавания себя на фотографиях — а в этот день ты понимаешь, что пора подкачать новую.
Categories: Friends