Поиск по сайту Поиск

Danger, danger, high performance: ускоряем Python по максимуму

Разрушаем мифы и рассказываем, как достичь высокой производительности в программах на Python.

Вот уже более десятка лет Python широко используется как разработчиками, так и исследователями. За счёт своей эффективности и простоты он стал популярен в научных вычислениях и машинном обучении. Однако базовые функции Python — однопоточные. То есть программы на Python не могут одновременно использовать множество процессорных ядер. Как же тогда достичь высокой производительности в анализе данных и машинном обучении на Python?

Язык Python изначально предназначался для введения динамической типизации и предсказуемого, потокобезопасного поведения вместо сложного управления статическими типами и потоковыми примитивами. Для этого в нём используется глобальная блокировка интерпретатора (Global Interpreter Lock, GIL), которая ограничивает выполнение операций только одним потоком за раз. За последнее десятилетие было представлено много реализаций параллельных вычислений для Python, но они не обеспечивали настоящий параллелизм. Означает ли это, что Python — непроизводительный язык? Давайте разберёмся.

Фундаментальные конструкции базового языка для циклов и других асинхронных или параллельных вызовов подчиняются однопоточному GIL. Даже такое определение списка — [x*x for x in range(0,10)]  — всегда будет однопоточным. Хотя в языке существует библиотека поддержки потоков, которая многих вводит в заблуждение, на самом деле все операции выполняются в рамках GIL. Почему же в таком выразительном языке присутствуют эти правила?

Причина тому — уровень абстракций, принятый языковой концепцией. В рамках самого Python достижима лишь многопроцессность, то есть параллелизм на уровне отдельных рабочих процессов. Тем самым оказываются потеряны некоторые важные преимущества многопоточности, такие как общий доступ к памяти родительского процесса и сниженные накладные расходы на коммуникацию. Обеспечение многопоточности в Python достижимо посредством «склейки» управляющего Python-кода с библиотеками на других языках, например, на Си. Так, интерфейсы вроде  ctypes или cffi повсеместно используются в популярных пакетах NumPy и SciPy для подключения внешних производительных библиотек со встроенной многопоточностью или даже с поддержкой GPU (например, CUBLAS).

Существует ряд других техник повышения производительности Python-программ. Например, доступны следующие фреймворки:

Numba: допускает JIT-компиляцию кода (Just-in-time), а также может запускать Python-совместимый код на основе LLVM (Low Level Virtual Machine).

Cython: предоставляет Python-подобный синтаксис со скомпилированными модулями, которые могут использовать аппаратную векторизацию при компиляции в C.

numexpr: позволяет использовать компиляторы и продвинутую векторизацию для символьных вычислений.

Все они избегают GIL-кода различными способами, сохраняя первоначальную концепцию языка.

Рассмотрим общий пример одной из наиболее распространённых конструкций, к которой мы бы хотели применить параллелизм — цикл for. Посмотрим на фрагмент:

Здесь мы проверяем список list_of_items и возвращаем все числа из него, которые меньше 50.

Запуск этого кода даёт следующий результат:

Python обрабатывает список последовательно с помощью одного потока, поскольку код написан на базовом чистом языке. Здесь мы не наблюдаем никакого параллелизма. Такие конструкции — хорошие кандидаты для фреймворка Numba. Он использует декоратор с символом @, чтобы помечать функции для JIT-компиляции:

Теперь мы получим:

Видно, что производительность повысилась почти вдвое. Дело в том, что исходный код Python написан в примитивах и типах данных, которые могут быть легко скомпилированы и векторизованы для CPU. И первое, на что стоит обратить внимание — это списки. Они бывают очень «тяжёлыми» из-за слабой типизации и встроенного аллокатора. Но если мы посмотрим на типы данных, содержащиеся в random_list, то увидим, что они все целочисленные. Благодаря этой согласованности типов JIT-компилятор Numba может векторизовать цикл.

Если список содержит разнотипные элементы (например, символы и числа), то выполнение кода завершится ошибкой TypeError. Кроме того, если функция содержит операции для смешанных типов данных, Numba не сможет создать высокопроизводительный JIT-код и обратится к объектному коду Python.

Урок здесь заключается в том, что достижение параллелизма в Python зависит от исходного кода. Чистота типов и использование векторизуемых структур данных позволяют Numba распараллеливать код с помощью простого декоратора. Наиболее осторожно следует обращаться со словарями, поскольку обычно они плохо поддаются векторизации. То же относится к генераторам и списковым включениям. Реорганизация их в списки, множества или массивы может облегчить ситуацию.

Гораздо проще достичь параллелизма в числовой и символьной арифметике. NumPy и SciPy отлично справляются с пересылкой вычислений вне GIL-кода на низкоуровневый код С и среду выполнения CUBLAS. Возьмём, к примеру, символьное выражение NumPy ((2 * a + 3 * b) / b):

Выражение многократно использует однопоточный интерпретатор Python из-за структуры библиотеки NumPy. Каждый return из Numpy передаётся в C и затем обратно возвращается на уровень Python.  Потом объект Python направляется к каждому последовательному вызову для повторной отправки на C. Эти прыжки туда-сюда создают так называемое «узкое место» в вычислениях. Поэтому, если вы хотите посчитать линейную алгебру, которую тяжело или невозможно описать в Numpy или SciPy, лучшим вариантом будет numexpr:

Как же numexpr достигает почти четырёхкратного ускорения? Он использует символьное представление вычислений для генерации кода, которое работает на уровне функций доступной библиотеки BLAS. В случае BLAS для CPU, код этих функций будет наилучшим образом векторизован; в случае CUBLAS — вычислительную нагрузку примут ядра графического процессора. Так все вычисления остаются в виде низкоуровневого кода до их завершения и возвращения результата обратно на уровень Python. Этот метод также позволяет избежать многократных обращений через интерпретатор Python, сокращая число однопоточных участков кода, а также обеспечивает краткий синтаксис.

Экосистема Python предоставляет много хороших вариантов повышения производительности. Чтобы овладеть ими, важно понимать используемые вами инструменты и ограничения, которые они накладывают. Хотя Python использует GIL для реализации своей языковой концепции, его принципиальную однопоточность легко обойти с помощью правильных методик и эффективного кода.

С оригинальной статьёй можно ознакомиться на сайте techdecoded.intel.io.

Domains weekly: месть Амазонии, победа Доткома и новости с полей битвы за .ORG

Domains weekly: месть Амазонии, победа Доткома и новости с полей битвы за .ORG

В очередном еженедельном дайджесте мы расскажем о протесте стран Амазонии против Amazon, выигранном споре за непродлённый вовремя домен и новых...
Read More
Support-гид: поиск ответов на вопросы по услугам REG.RU

Support-гид: поиск ответов на вопросы по услугам REG.RU

Что делать, когда возникает вопрос по работе сайта или онлайн-проекта? Можно попробовать найти решение в Google — но если проблема...
Read More
Domains weekly: конец стабильности .COM, детали продажи .ORG и сделки недели

Domains weekly: конец стабильности .COM, детали продажи .ORG и сделки недели

Из нового доменного дайджеста вы узнаете, может ли проигрыш спора за домен стать победой, чего ждать от повышения цен на...
Read More
PHP 7 или Как ускорить сайт за минуту без регистрации и СМС

PHP 7 или Как ускорить сайт за минуту без регистрации и СМС

Вы наверняка в курсе, что PHP удерживает лидерство среди языков, применяющихся для создания сайтов. В конце 2019 года версия PHP...
Read More
Приключенческая игра с самым опасным ИИ в мире

Приключенческая игра с самым опасным ИИ в мире

Долгие праздничные каникулы уже позади, но многим наверняка хочется ещё немного отдохнуть от серьёзных тем. Поэтому сегодня мы расскажем вам...
Read More
Новогодний чек-лист: не пропразднуй свой домен

Новогодний чек-лист: не пропразднуй свой домен

Не все задачи и дела подходят под фразу «А давайте уже после праздников». И те, что «горят прям горят», мы...
Read More
Domains weekly: рост Интернета, зона .AMAZON и домен на миллион

Domains weekly: рост Интернета, зона .AMAZON и домен на миллион

Приближаются праздники, и в доменной индустрии всё становится спокойнее… Или нет? Из последней подборки в этом году вы узнаете, насколько...
Read More
Итоги 2019 года в блоге REG.RU: создание сайтов, бэкапы, нейросети и UX‑дизайн

Итоги 2019 года в блоге REG.RU: создание сайтов, бэкапы, нейросети и UX‑дизайн

Год приближается к финишной прямой, и редакция блога, следуя тренду, подводит его итоги. Сегодня мы поделимся материалами, которые вы больше...
Read More
Стэнфордский курс: лекция 10. Рекуррентные нейронные сети

Стэнфордский курс: лекция 10. Рекуррентные нейронные сети

В прошлый раз мы рассказали о нескольких популярных свёрточных архитектурах и узнали об их влиянии на развитие машинного обучения. В...
Read More
Domains weekly: карта Интернет-мира, перспективы Китая и доменная зависть

Domains weekly: карта Интернет-мира, перспективы Китая и доменная зависть

Новая подборка новостей будет очень полезной для домейнеров. Насколько активно страны мира регистрируют сайты в своих национальных доменных зонах? Есть...
Read More