安装 Java 模块#

系统兼容性#

Java 模块定期在 macOS 和 Linux 发行版上构建和测试。

Java 兼容性#

Java 模块与 JDK 8 及更高版本兼容。目前,JDK 版本 8、11、17 和 21 在 CI 中经过测试。最新的 JDK 也在 CI 中经过测试。

使用 Java 9 或更高版本时,必须通过将 --add-opens=java.base/java.nio=org.apache.arrow.memory.core,ALL-UNNAMED 添加到 java 命令来公开一些 JDK 内部。

# Directly on the command line
$ java --add-opens=java.base/java.nio=org.apache.arrow.memory.core,ALL-UNNAMED -jar ...
# Indirectly via environment variables
$ env _JAVA_OPTIONS="--add-opens=java.base/java.nio=org.apache.arrow.memory.core,ALL-UNNAMED" java -jar ...

否则,您可能会看到类似 module java.base does not "opens java.nio" to unnamed modulemodule java.base does not "opens java.nio" to org.apache.arrow.memory.core 的错误。

请注意,该命令已从 Arrow 15 及更早版本更改。如果您仍在使用该版本的标志 (--add-opens=java.base/java.nio=org.apache.arrow.memory.core,ALL-UNNAMED),您将看到 module java.base does not "opens java.nio" to org.apache.arrow.memory.core 错误。

如果您使用的是 flight-core 或依赖模块,则需要标记 flight-core 可以读取未命名模块。修改上述命令以用于 Flight

# Directly on the command line
$ java --add-opens=java.base/java.nio=org.apache.arrow.memory.core,ALL-UNNAMED -jar ...
# Indirectly via environment variables
$ env _JAVA_OPTIONS="--add-reads=org.apache.arrow.flight.core=ALL-UNNAMED --add-opens=java.base/java.nio=org.apache.arrow.memory.core,ALL-UNNAMED" java -jar ...

否则,您可能会看到类似 ``java.lang.IllegalAccessError: superclass access check failed: class org.apache.arrow.flight.ArrowMessage$ArrowBufRetainingCompositeByteBuf (in module org.apache.arrow.flight.core) cannot access class io.netty.buffer.CompositeByteBuf (in unnamed module …) because module org.apache.arrow.flight.core does not read unnamed module … 的错误。

最后,如果您使用的是 arrow-dataset,您还需要报告需要公开 JDK 内部。修改上述命令以用于 arrow-memory: .. code-block:: shell

# 直接在命令行上 $ java –add-opens=java.base/java.nio=org.apache.arrow.memory.core,ALL-UNNAMED -jar … # 间接通过环境变量 $ env _JAVA_OPTIONS=”–add-opens=java.base/java.nio=org.apache.arrow.dataset,org.apache.arrow.memory.core,ALL-UNNAMED” java -jar …

否则,您可能会看到类似 java.lang.RuntimeException: java.lang.reflect.InaccessibleObjectException: Unable to make static void java.nio.Bits.reserveMemory(long,long) accessible: module java.base does not "opens java.nio" to module org.apache.arrow.dataset 的错误。

如果使用 Maven 和 Surefire 进行单元测试,此参数也必须添加到 Surefire 中.

从 Maven 安装#

默认情况下,Maven 将从中央存储库下载:https://repo.maven.apache.org/maven2/org/apache/arrow/

使用所需的 Java 模块配置您的 pom.xml,例如:arrow-vector 和 arrow-memory-netty。

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>
    <groupId>org.example</groupId>
    <artifactId>demo</artifactId>
    <version>1.0-SNAPSHOT</version>
    <properties>
        <arrow.version>9.0.0</arrow.version>
    </properties>
    <dependencies>
        <dependency>
            <groupId>org.apache.arrow</groupId>
            <artifactId>arrow-vector</artifactId>
            <version>${arrow.version}</version>
        </dependency>
        <dependency>
            <groupId>org.apache.arrow</groupId>
            <artifactId>arrow-memory-netty</artifactId>
            <version>${arrow.version}</version>
        </dependency>
    </dependencies>
</project>

已提供物料清单 (BOM) 模块以简化添加 Arrow 模块。这消除了为每个模块指定版本的需要。上述内容的另一种方法是

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>
    <groupId>org.example</groupId>
    <artifactId>demo</artifactId>
    <version>1.0-SNAPSHOT</version>
    <properties>
        <arrow.version>15.0.0</arrow.version>
    </properties>
    <dependencies>
        <dependency>
            <groupId>org.apache.arrow</groupId>
            <artifactId>arrow-vector</artifactId>
        </dependency>
        <dependency>
            <groupId>org.apache.arrow</groupId>
            <artifactId>arrow-memory-netty</artifactId>
        </dependency>
    </dependencies>
    <dependencyManagement>
        <dependencies>
            <dependency>
                <groupId>org.apache.arrow</groupId>
                <artifactId>arrow-bom</artifactId>
                <version>${arrow.version}</version>
                <type>pom</type>
                <scope>import</scope>
            </dependency>
        </dependencies>
    </dependencyManagement>
</project>

要使用 Arrow Flight 依赖项,还要添加 os-maven-plugin 插件。此插件生成有用的平台相关属性,例如 os.detected.nameos.detected.arch,这些属性是解析 Flight 的传递依赖项所必需的。

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>
    <groupId>org.example</groupId>
    <artifactId>demo</artifactId>
    <version>1.0-SNAPSHOT</version>
    <properties>
        <arrow.version>9.0.0</arrow.version>
    </properties>
    <dependencies>
        <dependency>
            <groupId>org.apache.arrow</groupId>
            <artifactId>flight-core</artifactId>
            <version>${arrow.version}</version>
        </dependency>
    </dependencies>
    <build>
        <extensions>
            <extension>
                <groupId>kr.motd.maven</groupId>
                <artifactId>os-maven-plugin</artifactId>
                <version>1.7.0</version>
            </extension>
        </extensions>
    </build>
</project>

在通过 Maven 运行单元测试时,必须添加 --add-opens 标志

<build>
    <plugins>
        <plugin>
            <groupId>org.apache.maven.plugins</groupId>
            <artifactId>maven-surefire-plugin</artifactId>
            <version>3.0.0-M6</version>
            <configuration>
                    <argLine>--add-opens=java.base/java.nio=ALL-UNNAMED</argLine>
            </configuration>
        </plugin>
    </plugins>
</build>

或者,它们可以通过环境变量添加,例如在执行代码时

_JAVA_OPTIONS="--add-opens=java.base/java.nio=ALL-UNNAMED" mvn exec:java -Dexec.mainClass="YourMainCode"

从源代码安装#

参见 Java 开发.

IDE 配置#

通常,不需要额外的配置。但是,请确保您的 Maven 或其他构建配置具有上述 --add-opens 标志,以便 IDE 可以获取它并使用该标志运行测试。