Андрій Карпатий радить «базікати» з великими мовними моделями для кращих результатів

Нестандартний підхід до взаємодії з ШІ

Андрій Карпатий, провідний дослідник ШІ в Anthropic та автор терміну «vibe-coding», пропонує нетрадиційний метод для отримання кращих відповідей від великих мовних моделей (LLM). Замість того, щоб ретельно формулювати промпти, він радить просто «базікати» з ними.

Карпатий розповів, що іноді вмикає голосовий режим і розмовляє з LLM близько 10 хвилин. Він описує ці сесії як «повний безлад, все дозволено, повний потік свідомості».

Чому це працює?

За словами Карпатого, LLM добре витягують важливі фрагменти з довгих, неструктурованих голосових нотаток. Він пояснює, що іноді моделі потрібно більше «бітів», щоб зрозуміти, чого ви намагаєтеся досягти.

Цей підхід допомагає правильно розподілити обов'язки між людиною та ботом: людина може вивантажити всі свої напівсформовані думки щодо проєкту, а чат-бот потім реконструює цей монолог у щось більш чітке та організоване. Карпатий часто починає з попередження чат-боту про те, що його думки можуть бути заплутаними, а текст може містити помилки. Результатом такого «базікання» є покращення «злиття розумів» (mind meld) і зменшення необхідності подальших виправлень.

Реакція та ширший контекст

Хоча деякі користувачі X не були повністю переконані в ефективності цього методу, пропозиція Карпатого з'являється на тлі активного розвитку голосових інструментів ШІ. Наприклад, OpenAI нещодавно представила GPT-Live, що лежить в основі ChatGPT Voice, а їхня міні-клавіатура за $230 має клавішу для голосового запису, яка надсилає аудіо-промпти безпосередньо агенту. Anthropic також оновила свою голосову модель, дозволяючи користувачам вибирати між моделями Opus, Sonnet та Haiku.

Що це означає для розробників

Ця новина пропонує розробникам, які використовують великі мовні моделі, переглянути свої підходи до формування запитів. Замість ретельно вибудуваних промптів, метод Андрія Карпатого вказує на ефективність надання LLM великого обсягу неструктурованих даних через голосовий ввід, що може покращити розуміння моделі та якість відповідей.

Ключові факти

• Андрій Карпатий радить «базікати» з великими мовними моделями (LLM) протягом 10 хвилин для отримання кращих відповідей.

• Він використовує голосовий режим, описуючи сесії як «повний безлад» і «потік свідомості».

• Карпатий вважає, що LLM добре витягують важливі фрагменти з довгих голосових нотаток і потребують більше «бітів» для розуміння.

• Цей підхід допомагає розділити обов'язки: людина вивантажує думки, чат-бот їх організовує.

• Він часто попереджає чат-бот про неструктурованість своїх думок та можливі помилки.

Джерела

• Andrej Karpathy says he likes to ramble at his LLM