ИИ весьма полезен в шпионаже и контразведке, а также как кибероружие. Это побуждает государства контролировать распространение технологий ИИ для ограничения потенциала использования сопредельные государствами, а также использование достижений технологии ИИ, импортируя из сопредельных государств.
Вражденые силы не исчерпываются государствами. Имеются и другие злоумышленники.
Какие важные объекты ИИ могут быть стать объектом пристального внимания злоумышленников?
Это
- наборы данных, подготовленные для обучения и тренировки модели.
- структура модели (чаще ее называют "политикой").
- веса модели.
Кроме модели и ее элементов объектом может выступать инфраструктура, в которую входит и коммуникационная среда (оптоволокно, коаксиальные линии, устройства широкополосного доступа). Для чего? По меньшей мере, для доступа к ИИ и организации подстройки весов модели в собственных интересах.
Следующий элемент - человеческих капитал: ИИ инноваторы, исследователи, инженеры.
Отсюда логичны и явные защитные мероприятия: контроль экспорта и иностранных инвестиций в компании, тем или иным способом связанные с технологиями ИИ.
Из Habr
https://habr.com/ru/companies/ods/articles/722644/
18 мар 2023
GPT-4: Чему научилась новая нейросеть, и почему это немного жутковато
В 2022 году в престижном научном журнале Nature была опубликована статья, в которой исследователи ИИ, создающие инструмент для поиска новых лекарств для спасения жизней, поняли, что модель может делать обратное, создавая новые боевые отравляющие вещества (мы не будем тут писать слово «новичок», но вообще-то это слово действительно упоминается в тексте этой научной статьи).
После обучения нейронке потребовалось всего 6 часов работы на домашнем компьютере, чтобы придумать 40'000 веществ – некоторые из которых были абсолютно новыми, и при этом смертоноснее и токсичнее уже существующих вариантов биологического оружия. Один из авторов подхода высказал такую точку зрения: если машинное обучение может находить более токсичные яды, то его также можно использовать для определения способов создания токсинов, которые куда легче производить в домашних условиях и с использованием разрешенных химикатов, доступных к покупке. Это лишь вопрос решения оптимизационной задачи.
* * *
Ниже мы попробовали собрать воедино то, что нам известно о цене использования, которую OpenAI заряжают юзерам за использование API (интерфейса доступа) разных моделей, а также о количестве параметров этих моделей. Некоторые числа ниже представляют наши оценки – они выделены жирным.
GPT-3.5 (кодовое название Davinci): большая модель на 175 млрд параметров, стоила $0,02 / 1 тыс. токенов.
GPT-3.5 (Curie): оптимизированная версия, которую сократили до 6,7 млрд параметров, и снизили цену на порядок до $0,002 / 1 тыс. токенов.
ChatGPT (неоптимизированная legacy-версия, появившаяся первой в декабре 2022 года): цены мы здесь не знаем, но по косвенным признакам (см. пояснение по скорости работы в следующем пункте) можно сделать вывод, что количество параметров у нее было сравнимо с GPT-3.5/Davinci – около ~175 млрд параметров.
ChatGPT (оптимизированная gpt-3.5-turbo из февраля 2023 года): в какой-то момент OpenAI надоело тратить кучу вычислительной мощности (и денег) на генерацию мемов твиттерскими в промышленных масштабах, и они выпустили обновленную версию модели – которая по их заявлениям сокращала траты в 10 раз по отношению к прошлой, декабрьской версии. Стоить она стала $0,002/тыс. токенов – столько же, сколько стоит GPT-3.5/Curie – а значит, можно предположить, что количество параметров там такого же порядка (7-13 млрд).
GPT-4: цена на API этой модели составляет сейчас $0,03-0,06 / 1 тыс. токенов – в полтора-три раза дороже, чем GPT-3.5/Davinci. Это может значить, что и параметров у нее в пару раз больше, чем у Davinci (у той было 175 млрд), либо объяснение еще проще – OpenAI решили «на хайпе» (и из-за увеличения качества) заряжать цену подороже. Ведь даже обсчет модели на 175 млрд параметров – уже весьма серьезная вычислительная задача, что уж говорить про «повышение градуса»... Так что мы рискнем экспертно предположить, что размер GPT-4 находится примерно на похожем уровне.
Комментариев нет:
Отправить комментарий