安装 PyArrow#

系统兼容性#

PyArrow 定期在 Windows、macOS 和各种 Linux 发行版上构建和测试。我们强烈建议使用 64 位系统。

Python 兼容性#

PyArrow 目前与 Python 3.9、3.10、3.11、3.12 和 3.13 兼容。

使用 Conda#

使用 Condaconda-forge 安装最新版本的 PyArrow

conda install -c conda-forge pyarrow

注意

虽然 pyarrow conda-forge 包是大多数用户的正确选择,但该包存在最小和最大两种变体,其中任何一种都可能更适合您的用例。请参阅 conda-forge 包之间的差异

使用 Pip#

PyPI 安装最新版本(Windows、Linux 和 macOS)

pip install pyarrow

如果您在 Windows 上遇到 pip 轮子的任何导入问题,您可能需要安装 Visual Studio 2015 的 Visual C++ 可再发行组件

警告

在 Linux 上,您需要 pip >= 19.0 才能检测到预构建的二进制包。

安装 nightly 包或从源代码安装#

请参阅 Python 开发

依赖项#

可选依赖项

  • NumPy 1.16.6 或更高版本。

  • pandas 1.0 或更高版本,

  • cffi.

PyArrow 兼容的其他软件包有 fsspecpytzdateutiltzdata 包(用于时区)。

Windows 上的 tzdata#

虽然 Arrow 在 Linux 和 macOS 上使用操作系统提供的时区数据库,但它需要在 Windows 上使用用户提供的数据库。要下载并提取 IANA 时区数据库的文本版本,请按照 C++ 运行时依赖项 中的说明进行操作,或使用 pyarrow 实用程序函数 pyarrow.util.download_tzdata_on_windows() 执行相同的操作。

默认情况下,时区数据库将在 %USERPROFILE%\Downloads\tzdata 中检测到。如果数据库已下载到其他位置,则需要从 Python 设置数据库的自定义路径

>>> import pyarrow as pa
>>> pa.set_timezone_db_path("custom_path")

conda-forge 包之间的差异#

conda-forge 上,PyArrow 以三个单独的包发布,每个包提供不同级别的功能。这与 PyPi 不同,后者只提供单个 PyArrow 包。

这种拆分的目的是为了最大限度地减少大多数用户安装的软件包的大小 (pyarrow),为特殊用例提供更小的最小软件包 (pyarrow-core),同时仍为需要它的用户提供完整的软件包 (pyarrow-all)。历史上在 conda-forge 上的 pyarrow 现在是 pyarrow-all,但大多数用户可以继续使用 pyarrow

pyarrow-core 包包括以下功能

pyarrow 包添加以下内容

  • Acero (即,pyarrow.acero)

  • 表格数据集 (即,pyarrow.dataset)

  • Parquet (即,pyarrow.parquet)

  • Substrait (即,pyarrow.substrait)

最后,pyarrow-all 添加

  • Arrow Flight RPC 和 Flight SQL (即,pyarrow.flight)

  • Gandiva (即,pyarrow.gandiva)

下表列出了每个软件包提供的功能,在决定使用一个软件包而不是另一个软件包或 创建自定义选择时可能很有用。

组件

pyarrow-core

pyarrow

pyarrow-all

核心

pyarrow-core

Parquet

libparquet

数据集

libarrow-dataset

Acero

libarrow-acero

Substrait

libarrow-substrait

Flight

libarrow-flight

Flight SQL

libarrow-flight-sql

Gandiva

libarrow-gandiva

创建自定义选择#

如果您知道您需要哪些组件并希望控制安装的内容,您可以创建一个自定义软件包选择,仅包含您需要的额外功能。例如,要安装 pyarrow-core 并添加对读取和写入 Parquet 的支持,请将 libparquetpyarrow-core 一起安装

conda install -c conda-forge pyarrow-core libparquet

或者,如果您希望使用 pyarrow 但需要对 Flight RPC 的支持

conda install -c conda-forge pyarrow libarrow-flight