Есть такая мрачная шутка: “Жизнь в России — игра на повышенном уровне сложности”. У нас тут регулярно какой-то местный Армагеддон, а в довесок к нему все глобальные экономические пертурбации.
Взять хотя бы рынок труда.
Наталия Поварова
с 2024
Думаем об ИИ и людях
41 подписчик
11 подписок
Некоторое время назад моя лента в соцсетях наполнилась постами людей, которые перешли с ChatGPT на Claude и остались довольны.
Я довольно консервативна в том, что касается новых инструментов: работает — НЕ ТРОГАЙ. Но в конце концов даже во мне проснулось любопытство, я попробовала Claude AI, и вот описание моего опыта (спойлер: мне понравилос…
Есть такая организация — Machine Intelligence Research Institute (MIRI, Институт исследования машинного интеллекта). У этой организации есть много любопытных работ, в основном про ИИ и его влияние на человечество.
Влияние их достаточно велико, их много кто цитирует. Я тоже цитировала и считаю их работу важной, хотя во многом с ними не согласн…
Я периодически пишу про то, как стоит использовать ИИ, чтобы это было эффективно и полезно, а как не стоит. Вот на прошлой неделе, например, был пост про то, как стоит и не стоит с ИИ писать код.
И я готова честно признаться, что есть правила, которые я умом пон…
Как человек, который учился писать код с нуля, я испытываю смешанные чувства, когда речь заходит о вайбкодинге:
- я рада, что больше не нужно неделю чинить баг (и в конце концов понять, что где-то скобка не закрыта);
- я не понимаю теперь, в чём заключается моя работа и кому она нужна;
- я чувствую облегчение о того, что теперь могу отправить коллег…
GraphRAG (графовый RAG) — очень мощный инструмент для использования с языковыми моделями, если знать, когда и как им пользоваться. Если не знать — громоздкий и бестолковый.
Если вы прочитали первый абзац и ничего не поняли, не переживайте: сейчас всё объясню.
Продолжаем обсуждать безопасность, полезность и подконтрольность языковых моделей. Сегодня расскажу вам про статью “Towards Safety and Helpfulness Balanced Responses via Controllable Large Language Models” ("Балансируем ответы больших языковых моделей между безопасностью и полезностью").
Есть целое направление мысли, которое занимается исследованиями в области “потенциального самосознания, самоощущения, морали и правового положения ИИ-систем”. Сейчас расскажу, как я на это дело вышла.
В 1800-х люди придумали использовать воду и пар, чтобы строить мощные машины и автоматизировать часть тяжёлой работы.
В 1900-х научились массово производить товары (и загрязнение окружающей среды), перемещаться по железным дорогам быстрее, чем когда-либо прежде, и электрифицировать заводы, чтобы производить ещё больше всего.
Применительно к языковым моделям существует понятие “emergent abilities” — “проявляющиеся способности”. Их чаще называют “эмерджентные способности”, но вы знаете, как интенсивно я не люблю малопонятные и труднопроизносимые термины.
Так вот, речь идёт о способностях, которые начинают проявляться, когда модель достигает определённого размера. П…
Сегодня в меню статья про «AGI». Опять. Я отказываюсь воспринимать этот термин всерьёз: в нём больше маркетинга, чем смысла*.
Но эта статья предлагает совокупный и весьма глубокий анализ ИИ, нейробиологии, психологии и ряда других областей, на пересечении которых случаются интересные вещи. Авторы сделали очень качественный обзор, за что испол…
Давайте поговорим о «личностях» у больших языковых моделей. На то есть весомая причина: в начале этого года сборная команда из MATS и Anthropic Fellows выпустила статью «The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models» («Ось Ассистента: выявление и стабилизация “личности по умолчанию” у языковых моделей»).