Генеративные нейросети. Размышления на тему

Генеративные нейросети. Размышления на тему

Я в этой статье поговорил бы не о конкретных возможностях и применениях уже известных всему миру генеративных нейронных сеток (OpenAI, ChatGPT и тому подобных).

На самом деле, в применении таких сетей в реальной жизни и бизнесе есть очень много подводных камней.

И начать можно с самого простого – скорости появления этой технологии. Сейчас для большинства неспециалистов все эти удивительные нейросети, рисующие картинки, генерирующие связные истории по запросу и ведущие осмысленные беседы – выскочили как черт из табакерки. Но в их основе лежат технологии, насчитывающие уже десятки лет. Что же произошло? Откуда взялся этот ВАУ-эффект?

Совершенно внезапно, даже скачкообразно в знакомых технологиях и известных алгоритмах мы обнаружили удивительные точки приложения.

Несколько лет назад никто не предполагал даже, что какой-нибудь телеграм-бот будет способен осмысленно болтать, удерживая контекст диалога, создавать картины, писать литературные тексты и работающий программный код. И только мы к этому начали привыкать – хоп и новая версия умеет уже на порядок больше (взять, например, тот же GPT-4). Даже фантазировать умеет или представлять себя кем-то/чем-то иным.

Налицо технологический скачок, который прямо сейчас мы все переживаем. Судя по отзывам окружающих меня людей – некоторые испытывают настоящий шок.

И дело даже не в том, что умеют сейчас эти нейросети. Если копнуть чуть глубже – вот появилось что-то новое и подсознательно человек ожидает, что это будет развиваться линейно, эволюционно. Этот же феномен развивается, скорее, по экспоненте — очень быстро. И наблюдаемая сейчас скорость развития вызывает если не страх, то как минимум трепет.

Сейчас практически любой пользователь интернета получил такой универсальный механизм, который помогает сократить рутинные операции по времени на несколько порядков.

И пути применения этого механизма тоже не всегда очевидны и прозрачны. Например, найти что-то важное. Вот нужно нам найти конкретную, не самую новую, версию программы, которой уже нет на официальном сайте разработчика. Раньше приходилось перелопатить кучу страниц поисковой выдачи, проверить, что ссылки на файлопомойках существуют и файлы оттуда действительно скачиваются. Отдельно еще на вирусы проверить. Это занимает часы, иногда – дни. Современная нейронная сеть может выполнить все эти задачи за несколько секунд.

Или еще пример. Видел видео, где ребята заказали сгенерировать ключи активации для одного популярного программного продукта ушедшей с нашего рынка популярной компании. Через мгновение бот выдал 20 ключей, 2 из которых подошли. Что это означает: алгоритм удачно нашел ключи, часть которых оказалась не использованной? Либо нейросеть провела реверс-инжиниринг алгоритма генерации ключей по найденной в сети выборке доступных ключей, после чего удачно самостоятельно сгенерировала новые? Мне кажется – второй вариант ближе к истине.

А если так, что делать известной компании – полностью менять подход к выдаче лицензий, чтобы обезопасить себя от такого вот эффективного генератора бесконечных ключей? Не знаю – это нам еще предстоит узнать.

В сети множество примеров позитивного применения этой новой технологии. Логически рассуждая, можно прийти к несложному выводу – вариантов использования генеративных нейросеток в негативном ключе придумать можно как минимум столько же. И еще добавить миллион идей, о которых мы еще даже не подумали.

Ну, хорошо – в ближайшем будущем такая сеть научится, как минимум, помогать не только в виртуальных вещах (картинки, тексты, программный код), но и найдет применение для вполне реального оффлайна. Писать, например, более оптимальный алгоритм для станка ЧПУ, лазерной сварки. То есть сможет повысить эффективность выполняемых работ уже в тех сферах, которые напрямую с интернетом и онлайном не связаны. И скорость реализации такой оптимизации будет намного выше, чем это выполняется сейчас человеком.

Фактически, в компании уже сейчас в некоторых проектах мы применяем генеративные технологии – написать часть технической документации. Или, облагородить написанный на коленке текст и привести его в приличный литературный формат.

И, конечно же, на первый план выходит еще один важный аспект – это использование такой нейросетки в качестве «быстрого и умного» поисковика. Пример из жизни: сейчас большинство рутинного программирования сводится к поиску схожего готового решения и адаптации его под свою задачу (привет, Stack Overflow!). И если эта рутинная операция занимает у программиста существенное время, то теперь бот выполнит эту задачу практически мгновенно и автоматически. И это конечно очень вдохновляет.

Но с другой стороны именно эти «мгновенные» и весьма эффективные решения задач вызывают некоторое беспокойство. Ближайшее будущее для большинства программистов может оказаться не таким радужным.

Аналогию можно найти в бухгалтерском учете и среди юристов. Недавний бум бухгалтерских программ, которые на основании первичной документации самостоятельно корректно готовят отчетность для налоговых органов – существенно снизил необходимость в отдельном бухгалтере в штатном расписании компаний. Зачастую, небольшое предприятие или ИП уже может самостоятельно вести весь учет, не прибегая к услугам такого специалиста.

А удобный доступ к разнообразным информационным системам, каталогам и законодательными системам, как и рост количества такого рода систем, где самостоятельно можно найти юридически значимый документ или шаблон для заполнения – кардинально уменьшил потребность в юристах и экономистах базового уровня.

Это, к слову, вызвало в свое время кризис на рынке труда в этих сферах. И этот кризис не решился до сих пор, насколько мне это известно.

Кажется, что происходящая сейчас технологическая революция в сфере нейронных сетей может привести к аналогичной ситуации и в ИТ-сфере. Программисты базового уровня могут оказаться не удел. И не только ИТ это коснется. Некоторое беспокойство уже сейчас существует в среде дизайнеров – как графических, так и UI/UX.

Недавно интернет облетел пример, как нейросеть OpenAI по фотографии бумажки, на которой была нарисована концепция сайта от руки (еще и почерк оставлял желать лучшего) — взяла и создала этот сайт с нуля и за доли секунды:

Совсем скоро все, что поддается формализации и, скажем так, подходит под описание регламентированных процедур – может быть теперь легко выполнено ботом генеративной сети: документирование, выполнение каких-то бюрократических процедур, отслеживание состояния и выполнение неких рутинных операций и алгоритмов, и многое-многое другое, и не только в ИТ.

Еще одна сфера, куда точно придут эти технологии – тестирование интерфейсов, причем так, как делал бы это человек (имитация работы пользователей). Развитие RPA – например, прокликать все как человек, тут же собрать обратную связь. При этом теперь не нужно писать развесистые скрипты – достаточно человеческим языком сформулировать задачу и вуаля.

Вызовов привычному укладу жизни специалистов много. Реакция порой доходит до крайностей – Италия, например, ограничила использование GPT из-за риска утечек персональных данных. И это происходит прямо сейчас.

Но запрещать уже поздно. С теми же персональными данными – пользователи загрузили в сеть терабайты личных данных, причем сделали это добровольно и с радостью. Раньше, чтобы собрать чей-либо цифровой портрет, нужно было обращаться к специализированному ПО, либо покупать доступ к закрытым базам данных, куда уже слили все необходимое. Сейчас, как вы уже догадались, осталось сформулировать лишь подходящий запрос и за несколько секунд вся информация на экране. Моральную сторону этого процесса сейчас рассматривать не будем. Важно – случился очередной «прорыв». Нужно понимать: очередной блок технологий, который раньше доступен был только профессионалам и специалистам, теперь доступен любому школьнику (и не только ему, «если вы понимаете, о чем я»).

Бытует мнение, что случившийся технологический скачок все еще далек от сети, которая способна «размышлять» в том виде, в котором человек привык думать об этом процессе. Сейчас это вроде как имитация «разумности». Склонен пока согласиться с этим утверждением.

Примеров достаточно – попросить нейросеть построить путь к несуществующему адресу, попросить выдать рецепт несуществующего блюда, либо описать несуществующий фильм. Сейчас нейронные сети настроены таким образом, что при недостатке информации из доступных источников – фантазируют и выдают эту фантазию на голубом глазу, как истину. Поэтому мы получим маршрут в стиле сказки «сходи туда, не знаю куда», занятный рецепт и увлекательное описание фильма.

Этот эффект при всей своей развлекательной составляющей таит в себе важную проблему. Пока нельзя безоговорочно верить результатам выдачи таких сетей. Ведь сеть можно спросить, как провести операцию на пациенте или попросить разработать алгоритм лечения тяжелого больного (со списком лекарств, дозировками и рекомендациями) – а тут результаты могут оказаться не столь веселыми.

«Непроверяемость результата» – можно назвать это так.  Натренированная как-то кем-то сеть получила наш запрос, как-то собрала данные из каких-то источников, как-то обработала эти данные и выдала результат. Пока слишком много «как-то». И мы не можем проверить примерно ничего из всех этапов и процессов, которые привели к выдаче результата.

Старая добрая пословица «Доверяй, но проверяй» заиграла новыми красками. Нужно думать и о детях, которые ко всему этому уже получили доступ – как минимум помогать в интерпретации всех этих результатов точно нужно.

И пока люди-создатели этих нейросетей занимаются модерированием и попытками ограничения различными рамками результатов их работы, где-то наверняка уже есть люди, которые будут противодействовать всем этим ограничениям.

Мы входим в мир новых возможностей, но не все они приятны и красивы. Желаю всем с умом применять на практике свалившиеся на нас блага, и чтобы они приносили вам только пользу!


Самое актуальное и интересное - у нас в telegram-канале!

Репост

Свяжитесь с нами

119435 г. Москва, ул. Малая Пироговская, 16
Контакты
Нажимая кнопку "Связаться с нами" я принимаю условия Пользовательского соглашения и согласен на обработку Персональных данных
Связаться с нами

Заполните форму ниже и наши специалисты свяжутся с вами в ближайшее время

Удобное время для звонка
  • 10:00 - 12:00
  • 12:00 - 14:00
  • 14:00 - 16:00
  • 16:00 - 18:00
  • 18:00 - 19:00
Время московское
Отвечаем с понедельника по пятницу
Нажимая кнопку "Связаться с нами" я принимаю условия Пользовательского соглашения и согласен на обработку персональных данных