Bazel 코드베이스

문제 신고 소스 보기 Nightly · 8.3 · 8.2 · 8.1 · 8.0 · 7.6

이 문서에서는 코드베이스와 Bazel의 구조에 관해 설명합니다. 최종 사용자가 아닌 Bazel에 기여하고자 하는 사용자를 대상으로 합니다.

소개

Bazel의 코드베이스는 크기가 크며 (~350KLOC 프로덕션 코드 및 ~260KLOC 테스트 코드) 전체 환경을 잘 아는 사람은 없습니다. 모든 사람이 특정 계곡을 잘 알고 있지만, 모든 방향의 언덕 너머에 무엇이 있는지 아는 사람은 거의 없습니다.

여정을 시작한 중간에 사람들이 어두운 숲에 들어와 직선적인 경로를 잃어버리지 않도록 이 문서에서는 코드베이스의 개요를 제공하여 작업을 더 쉽게 시작할 수 있도록 합니다.

Bazel 소스 코드의 공개 버전은 GitHub(github.com/bazelbuild/bazel)에 있습니다. 이는 '소스 오브 트루스'가 아닙니다. Google 외부에서는 유용하지 않은 추가 기능이 포함된 Google 내부 소스 트리에서 파생됩니다. 장기적인 목표는 GitHub를 정보 소스로 만드는 것입니다.

참여는 일반 GitHub 풀 요청 메커니즘을 통해 수락되며 Google 직원이 수동으로 내부 소스 트리에 가져온 후 GitHub로 다시 내보냅니다.

클라이언트/서버 아키텍처

Bazel의 대부분은 빌드 간에 RAM에 머무는 서버 프로세스에 있습니다. 이를 통해 Bazel은 빌드 간에 상태를 유지할 수 있습니다.

이것이 Bazel 명령줄에 시작 및 명령어라는 두 가지 옵션이 있는 이유입니다. 다음과 같은 명령줄에서

    bazel --host_jvm_args=-Xmx8G build -c opt //foo:bar

일부 옵션 (--host_jvm_args=)은 실행할 명령어 이름 앞에 있고 일부는 뒤에 있습니다 (-c opt). 전자는 '시작 옵션'이라고 하며 서버 프로세스 전체에 영향을 미치는 반면 후자, 즉 '명령어 옵션'은 단일 명령어에만 영향을 미칩니다.

각 서버 인스턴스에는 연결된 단일 작업공간('저장소'라고 하는 소스 트리 모음)이 있으며 각 작업공간에는 일반적으로 활성 서버 인스턴스가 하나 있습니다. 맞춤 출력 기반을 지정하면 이 문제를 해결할 수 있습니다(자세한 내용은 '디렉터리 레이아웃' 섹션 참고).

Bazel은 유효한 .zip 파일인 단일 ELF 실행 파일로 배포됩니다. bazel를 입력하면 C++로 구현된 위의 ELF 실행 파일('클라이언트')이 제어권을 갖게 됩니다. 다음 단계에 따라 적절한 서버 프로세스를 설정합니다.

  1. 이미 자체적으로 추출되었는지 확인합니다. 그렇지 않은 경우 앱이 자동으로 닫힙니다. 여기에서 서버 구현이 시작됩니다.
  2. 작동하는 활성 서버 인스턴스가 있는지 확인합니다. 서버 인스턴스가 실행 중이고 올바른 시작 옵션이 있으며 올바른 워크스페이스 디렉터리를 사용하는지 확인합니다. 서버가 수신 대기하는 포트가 있는 잠금 파일이 있는 $OUTPUT_BASE/server 디렉터리를 확인하여 실행 중인 서버를 찾습니다.
  3. 필요한 경우 이전 서버 프로세스를 종료합니다.
  4. 필요한 경우 새 서버 프로세스를 시작합니다.

적절한 서버 프로세스가 준비되면 실행해야 하는 명령어가 gRPC 인터페이스를 통해 서버에 전달된 후 Bazel의 출력이 터미널로 다시 파이프됩니다. 한 번에 하나의 명령어만 실행할 수 있습니다. 이는 C++의 일부와 Java의 일부로 구성된 정교한 잠금 메커니즘을 사용하여 구현됩니다. bazel version를 다른 명령어와 동시에 실행할 수 없으므로 다소 난처한 상황이 발생할 수 있으므로 여러 명령어를 동시에 실행하기 위한 인프라가 있습니다. 주요 차단 요소는 BlazeModule의 수명 주기와 BlazeRuntime의 일부 상태입니다.

명령어 끝에서 Bazel 서버는 클라이언트가 반환해야 하는 종료 코드를 전송합니다. 흥미로운 점은 bazel run의 구현입니다. 이 명령어의 작업은 Bazel에서 방금 빌드한 항목을 실행하는 것이지만 터미널이 없으므로 서버 프로세스에서 실행할 수 없습니다. 대신 클라이언트에게 어떤 바이너리를 exec()해야 하는지, 어떤 인수를 사용해야 하는지 알려줍니다.

Ctrl-C를 누르면 클라이언트는 이를 gRPC 연결의 취소 호출로 변환하여 가능한 한 빨리 명령어를 종료하려고 시도합니다. 세 번째 Ctrl-C 후에 클라이언트는 서버에 SIGKILL을 대신 전송합니다.

클라이언트의 소스 코드는 src/main/cpp에 있고 서버와 통신하는 데 사용되는 프로토콜은 src/main/protobuf/command_server.proto에 있습니다 .

서버의 기본 진입점은 BlazeRuntime.main()이고 클라이언트의 gRPC 호출은 GrpcServerImpl.run()에서 처리합니다.

디렉터리 레이아웃

Bazel은 빌드 중에 다소 복잡한 디렉터리 세트를 만듭니다. 전체 설명은 출력 디렉터리 레이아웃에서 확인할 수 있습니다.

'기본 저장소'는 Bazel이 실행되는 소스 트리입니다. 일반적으로 소스 제어에서 체크아웃한 항목에 해당합니다. 이 디렉터리의 루트를 '작업공간 루트'라고 합니다.

Bazel은 모든 데이터를 '출력 사용자 루트' 아래에 배치합니다. 이는 일반적으로 $HOME/.cache/bazel/_bazel_${USER}이지만 --output_user_root 시작 옵션을 사용하여 재정의할 수 있습니다.

'설치 기반'은 Bazel이 추출되는 위치입니다. 이는 자동으로 실행되며 각 Bazel 버전은 설치 기반 아래에서 체크섬을 기반으로 하위 디렉터리를 가져옵니다. 기본적으로 $OUTPUT_USER_ROOT/install에 있으며 --install_base 명령줄 옵션을 사용하여 변경할 수 있습니다.

'출력 기반'은 특정 워크스페이스에 연결된 Bazel 인스턴스가 쓰는 위치입니다. 각 출력 기반에는 언제든지 실행 중인 Bazel 서버 인스턴스가 최대 1개 있습니다. 일반적으로 $OUTPUT_USER_ROOT/<checksum of the path to the workspace>에 있습니다. --output_base 시작 옵션을 사용하여 변경할 수 있으며, 이는 무엇보다도 특정 시점에 한 개의 Bazel 인스턴스만 워크스페이스에서 실행될 수 있다는 제한을 우회하는 데 유용합니다.

출력 디렉터리에는 다음이 포함됩니다.

  • 가져온 외부 저장소($OUTPUT_BASE/external)
  • exec 루트: 현재 빌드의 모든 소스 코드에 대한 심볼릭 링크가 포함된 디렉터리입니다. $OUTPUT_BASE/execroot에 있습니다. 빌드 중에 작업 디렉터리는 $EXECROOT/<name of main repository>입니다. 호환되지 않는 변경사항이므로 장기 계획이지만 $EXECROOT로 변경할 계획입니다.
  • 빌드 중에 빌드된 파일입니다.

명령어를 실행하는 프로세스

Bazel 서버가 제어권을 얻고 실행해야 하는 명령어에 관해 알림을 받으면 다음과 같은 이벤트 시퀀스가 발생합니다.

  1. BlazeCommandDispatcher에 새 요청에 대한 정보가 전달됩니다. 명령어를 실행하는 데 워크스페이스가 필요한지 (버전 또는 도움말과 같이 소스 코드와 관련이 없는 명령어를 제외한 거의 모든 명령어)와 다른 명령어가 실행 중인지 결정합니다.

  2. 올바른 명령어가 발견되었습니다. 각 명령어는 BlazeCommand 인터페이스를 구현해야 하며 @Command 주석이 있어야 합니다. 이는 약간의 안티패턴입니다. 명령어에 필요한 모든 메타데이터가 BlazeCommand의 메서드로 설명되면 좋습니다.

  3. 명령줄 옵션이 파싱됩니다. 각 명령어에는 @Command 주석에 설명된 대로 다른 명령줄 옵션이 있습니다.

  4. 이벤트 버스가 생성됩니다. 이벤트 버스는 빌드 중에 발생하는 이벤트의 스트림입니다. 이러한 이벤트 중 일부는 빌드 진행 상황을 알리기 위해 빌드 이벤트 프로토콜의 보호 아래 Bazel 외부로 내보내집니다.

  5. 명령어가 제어권을 얻습니다. 가장 흥미로운 명령어는 빌드, 테스트, 실행, 적용 범위 등을 실행하는 명령어입니다. 이 기능은 BuildTool로 구현됩니다.

  6. 명령줄의 대상 패턴 집합이 파싱되고 //pkg:all 및 //pkg/...와 같은 와일드 카드가 확인됩니다. 이는 AnalysisPhaseRunner.evaluateTargetPatterns()에서 구현되고 Skyframe에서 TargetPatternPhaseValue로 리파이즈됩니다.

  7. 로드/분석 단계가 실행되어 작업 그래프 (빌드에 실행해야 하는 명령어의 방향성 비순환 그래프)를 생성합니다.

  8. 실행 단계가 실행됩니다. 즉, 요청된 최상위 타겟을 빌드하는 데 필요한 모든 작업이 실행됩니다.

명령줄 옵션

Bazel 호출의 명령줄 옵션은 OptionsParsingResult 객체에 설명되어 있으며, 이 객체는 '옵션 클래스'에서 옵션 값으로의 매핑을 포함합니다. '옵션 클래스'는 OptionsBase의 서브클래스이며 서로 관련된 명령줄 옵션을 그룹화합니다. 예를 들면 다음과 같습니다.

  1. 프로그래밍 언어 (CppOptions 또는 JavaOptions)와 관련된 옵션입니다. 이는 FragmentOptions의 서브클래스여야 하며 결국 BuildOptions 객체로 래핑됩니다.
  2. Bazel에서 작업을 실행하는 방식과 관련된 옵션 (ExecutionOptions)

이러한 옵션은 분석 단계에서 사용하도록 설계되었으며 Java의 RuleContext.getFragment() 또는 Starlark의 ctx.fragments를 통해 사용됩니다. 그중 일부 (예: C++ 포함 검사 여부)는 실행 단계에서 읽히지만, 이때는 BuildConfiguration를 사용할 수 없으므로 항상 명시적 배관이 필요합니다. 자세한 내용은 '구성' 섹션을 참고하세요.

경고: OptionsBase 인스턴스가 변경 불가능한 것처럼 하며 그렇게 사용합니다 (예: SkyKeys의 일부). 하지만 사실은 그렇지 않으며, OptionsBase 인스턴스를 수정하면 디버그하기 어려운 미묘한 방식으로 Bazel을 중단할 수 있습니다. 안타깝게도 실제로 변경 불가능하게 만드는 것은 대규모 작업입니다. 다른 사람이 참조를 유지할 기회를 얻기 전에 그리고 equals() 또는 hashCode()가 호출되기 전에 생성 직후에 FragmentOptions를 수정하는 것은 괜찮습니다.

Bazel은 다음과 같은 방식으로 옵션 클래스에 관해 학습합니다.

  1. 일부는 Bazel에 하드웨어로 연결되어 있습니다 (CommonCommandOptions).
  2. 각 Bazel 명령어의 @Command 주석
  3. ConfiguredRuleClassProvider (개별 프로그래밍 언어와 관련된 명령줄 옵션)
  4. Starlark 규칙은 자체 옵션을 정의할 수도 있습니다 (여기 참고).

각 옵션 (Starlark 정의 옵션 제외)은 명령줄 옵션의 이름과 유형을 일부 도움말 텍스트와 함께 지정하는 @Option 주석이 있는 FragmentOptions 서브클래스의 멤버 변수입니다.

명령줄 옵션 값의 Java 유형은 일반적으로 간단한 유형(문자열, 정수, 불리언, 라벨 등)입니다. 그러나 더 복잡한 유형의 옵션도 지원합니다. 이 경우 명령줄 문자열에서 데이터 유형으로 변환하는 작업은 com.google.devtools.common.options.Converter의 구현에 해당합니다.

Bazel에서 보는 소스 트리

Bazel은 소스 코드를 읽고 해석하여 소프트웨어를 빌드하는 일을 합니다. Bazel이 작동하는 소스 코드 전체를 '워크스페이스'라고 하며 저장소, 패키지, 규칙으로 구성됩니다.

저장소

'저장소'는 개발자가 작업하는 소스 트리입니다. 일반적으로 단일 프로젝트를 나타냅니다. Bazel의 조상인 Blaze는 모노레포(빌드를 실행하는 데 사용되는 모든 소스 코드가 포함된 단일 소스 트리)에서 작동했습니다. 반면 Bazel은 소스 코드가 여러 저장소에 걸쳐 있는 프로젝트를 지원합니다. Bazel이 호출되는 저장소를 '기본 저장소'라고 하고 나머지는 '외부 저장소'라고 합니다.

저장소는 루트 디렉터리의 저장소 경계 파일 (MODULE.bazel, REPO.bazel 또는 기존 컨텍스트의 경우 WORKSPACE 또는 WORKSPACE.bazel)로 표시됩니다. 기본 저장소는 Bazel을 호출하는 소스 트리입니다. 외부 저장소는 다양한 방식으로 정의됩니다. 자세한 내용은 외부 종속 항목 개요를 참고하세요.

외부 저장소의 코드는 $OUTPUT_BASE/external 아래에 심볼릭 링크되거나 다운로드됩니다.

빌드를 실행할 때는 전체 소스 트리를 조합해야 합니다. 이는 기본 저장소의 모든 패키지를 $EXECROOT에, 모든 외부 저장소를 $EXECROOT/external 또는 $EXECROOT/..에 심볼릭 링크하는 SymlinkForest에서 실행합니다.

패키지

모든 저장소는 패키지, 관련 파일 모음, 종속 항목 사양으로 구성됩니다. 이는 BUILD 또는 BUILD.bazel라는 파일로 지정됩니다. 둘 다 있으면 Bazel은 BUILD.bazel를 선호합니다. BUILD 파일이 여전히 허용되는 이유는 Bazel의 조상인 Blaze에서 이 파일 이름을 사용했기 때문입니다. 그러나 특히 파일 이름이 대소문자를 구분하지 않는 Windows에서 일반적으로 사용되는 경로 세그먼트로 밝혀졌습니다.

패키지는 서로 독립적입니다. 패키지의 BUILD 파일을 변경해도 다른 패키지가 변경되지 않습니다. 재귀형 글롭은 패키지 경계에서 중지되므로 BUILD 파일이 있으면 재귀가 중지되므로 BUILD 파일을 추가하거나 삭제하면 다른 패키지가 _변경될 수_ 있습니다.

BUILD 파일의 평가를 '패키지 로드'라고 합니다. PackageFactory 클래스에 구현되어 있으며 Starlark 인터프리터를 호출하여 작동하며 사용 가능한 규칙 클래스 집합에 대한 지식이 필요합니다. 패키지 로드의 결과는 Package 객체입니다. 대부분 문자열 (타겟 이름)에서 타겟 자체로의 매핑입니다.

패키지 로드 중 복잡성의 상당 부분은 글로빙입니다. Bazel은 모든 소스 파일을 명시적으로 나열할 필요가 없으며 대신 글로브(예: glob(["**/*.java"]))를 실행할 수 있습니다. 셸과 달리 하위 디렉터리로 하위로 이동하는 재귀 글로브는 지원하지만 하위 패키지는 지원하지 않습니다. 이를 위해서는 파일 시스템에 액세스해야 하며, 이 작업은 느릴 수 있으므로 최대한 효율적으로 병렬로 실행할 수 있도록 다양한 트릭을 구현합니다.

글로빙은 다음 클래스에 구현됩니다.

  • LegacyGlobber: 빠르고 행복하게 Skyframe를 인식하지 않는 글로버
  • SkyframeHybridGlobber: Skyframe를 사용하고 'Skyframe 재시작'을 방지하기 위해 기존 글로버로 되돌아가는 버전(아래 설명)

Package 클래스 자체에는 '외부' 패키지 (외부 종속 항목과 관련)를 파싱하는 데만 사용되고 실제 패키지에는 적합하지 않은 일부 멤버가 포함되어 있습니다. 이는 일반 패키지를 설명하는 객체에 다른 항목을 설명하는 필드가 포함되어서는 안 되기 때문에 설계상의 결함입니다. 예를 들면 다음과 같습니다.

  • 저장소 매핑
  • 등록된 도구 모음
  • 등록된 실행 플랫폼

Package가 두 가지 요구사항을 모두 충족할 필요가 없도록 '외부' 패키지 파싱과 일반 패키지 파싱을 더 분리하는 것이 좋습니다. 안타깝게도 두 가지가 서로 매우 밀접하게 연결되어 있어 이를 구분하기는 어렵습니다.

라벨, 타겟, 규칙

패키지는 다음과 같은 유형의 타겟으로 구성됩니다.

  1. 파일: 빌드의 입력 또는 출력입니다. Bazel 용어로는 이를 아티팩트라고 합니다 (다른 곳에서 설명). 빌드 중에 생성된 모든 파일이 타겟은 아닙니다. Bazel의 출력에 연결된 라벨이 없는 경우가 많습니다.
  2. 규칙: 입력에서 출력을 도출하는 단계를 설명합니다. 일반적으로 프로그래밍 언어 (예: cc_library, java_library, py_library)와 연결되지만 언어와 관계없는 것(예: genrule, filegroup)도 있습니다.
  3. 패키지 그룹: 공개 상태 섹션에서 설명합니다.

타겟의 이름을 라벨이라고 합니다. 라벨의 문법은 @repo//pac/kage:name입니다. 여기서 repo은 라벨이 있는 저장소의 이름이고 pac/kage은 BUILD 파일이 있는 디렉터리이며 name은 패키지 디렉터리를 기준으로 한 파일의 경로입니다 (라벨이 소스 파일을 참조하는 경우). 명령줄에서 타겟을 참조할 때 라벨의 일부를 생략할 수 있습니다.

  1. 저장소를 생략하면 라벨이 기본 저장소에 있는 것으로 간주됩니다.
  2. 패키지 부분 (예: name 또는 :name)이 생략되면 라벨이 현재 작업 디렉터리의 패키지에 있는 것으로 간주됩니다 (업레벨 참조 (..)가 포함된 상대 경로는 허용되지 않음).

일종의 규칙 (예: 'C++ 라이브러리')을 '규칙 클래스'라고 합니다. 규칙 클래스는 Starlark (rule() 함수) 또는 Java (소위 '네이티브 규칙', 유형 RuleClass)에서 구현할 수 있습니다. 장기적으로 모든 언어별 규칙은 Starlark에서 구현되지만 일부 기존 규칙 패밀리 (예: Java 또는 C++)는 당분간 Java에 있습니다.

Starlark 규칙 클래스는 load() 문을 사용하여 BUILD 파일의 시작 부분에서 가져와야 하지만 Java 규칙 클래스는 ConfiguredRuleClassProvider에 등록되어 있으므로 Bazel에서 '선천적으로' 알고 있습니다.

규칙 클래스에는 다음과 같은 정보가 포함됩니다.

  1. 속성 (예: srcs, deps): 유형, 기본값, 제약 조건 등
  2. 각 속성에 연결된 구성 전환 및 측면(있는 경우)
  3. 규칙 구현
  4. 규칙이 '일반적으로' 생성하는 전이 정보 제공자

용어 참고: 코드베이스에서는 '규칙'이라는 용어를 규칙 클래스로 생성된 타겟을 의미하는 데 자주 사용합니다. 하지만 Starlark 및 사용자 대상 문서에서는 'Rule'이 규칙 클래스 자체를 참조하는 데만 사용되어야 합니다. 타겟은 '타겟'일 뿐입니다. 또한 RuleClass의 이름에 'class'가 포함되어 있지만 규칙 클래스와 해당 유형의 타겟 간에 Java 상속 관계는 없습니다.

Skyframe

Bazel의 기반이 되는 평가 프레임워크를 Skyframe이라고 합니다. 빌드 중에 빌드해야 하는 모든 항목이 데이터에서 종속 항목(즉, 구성하기 위해 알아야 하는 다른 데이터)으로 향하는 가장자리가 있는 유향 비순환 그래프로 구성된다는 것이 이 모델의 핵심입니다.

그래프의 노드를 SkyValue라고 하고 이름을 SkyKey라고 합니다. 둘 다 변경 불가합니다. 변경 불가능한 객체만 이러한 객체에서 도달할 수 있어야 합니다. 이 불변항은 거의 항상 유지되며, 유지되지 않는 경우(예: BuildConfigurationValue 및 SkyKey의 멤버인 개별 옵션 클래스 BuildOptions) 이를 변경하지 않거나 외부에서 관찰할 수 없는 방식으로만 변경하려고 노력합니다. 따라서 Skyframe 내에서 계산되는 모든 항목 (예: 구성된 타겟)도 변경 불가해야 합니다.

Skyframe 그래프를 관찰하는 가장 편리한 방법은 그래프를 덤프하는 bazel dump --skyframe=deps를 실행하는 것입니다(선당 SkyValue 1개). 꽤 커질 수 있으므로 작은 빌드에 사용하는 것이 가장 좋습니다.

Skyframe은 com.google.devtools.build.skyframe 패키지에 있습니다. 이름이 비슷한 패키지 com.google.devtools.build.lib.skyframe에는 Skyframe 위에 Bazel의 구현이 포함되어 있습니다. Skyframe에 관한 자세한 내용은 여기를 참고하세요.

지정된 SkyKey를 SkyValue로 평가하기 위해 Skyframe은 키 유형에 해당하는 SkyFunction를 호출합니다. 함수의 평가 중에 SkyFunction.Environment.getValue()의 다양한 오버로드를 호출하여 Skyframe에서 다른 종속 항목을 요청할 수 있습니다. 이렇게 하면 이러한 종속 항목이 Skyframe의 내부 그래프에 등록되어 종속 항목이 변경될 때 Skyframe에서 함수를 다시 평가해야 한다는 부작용이 있습니다. 즉, Skyframe의 캐싱 및 증분 계산은 SkyFunction 및 SkyValue의 세분화 수준에서 작동합니다.

SkyFunction가 사용할 수 없는 종속 항목을 요청할 때마다 getValue()는 null을 반환합니다. 그런 다음 함수는 자체적으로 null을 반환하여 제어를 Skyframe에 다시 반환해야 합니다. 나중에 Skyframe은 사용 불가능한 종속 항목을 평가한 후 함수를 처음부터 다시 시작합니다. 이때만 getValue() 호출이 null이 아닌 결과로 성공합니다.

그 결과 다시 시작하기 전에 SkyFunction 내에서 실행된 모든 계산을 반복해야 합니다. 그러나 캐시된 종속 항목 SkyValues을 평가하기 위해 수행된 작업은 포함되지 않습니다. 따라서 일반적으로 다음과 같은 방법으로 이 문제를 해결합니다.

  1. getValuesAndExceptions()를 사용하여 일괄적으로 종속 항목을 선언하여 다시 시작 횟수를 제한합니다.
  2. SkyValue를 서로 다른 SkyFunction로 계산된 별도의 부분으로 나누어 독립적으로 계산하고 캐시할 수 있도록 합니다. 메모리 사용량이 증가할 수 있으므로 전략적으로 실행해야 합니다.
  3. 다시 시작 사이에 상태를 저장합니다. SkyFunction.Environment.getState()를 사용하거나 'Skyframe 뒤에' 임시 정적 캐시를 유지합니다. 복잡한 SkyFunctions를 사용하면 재시작 간의 상태 관리가 어려울 수 있으므로 SkyFunction 내에서 계층적 계산을 일시중지하고 재개하는 후크를 비롯하여 논리 동시 실행에 대한 구조화된 접근 방식을 위해 StateMachine가 도입되었습니다. 예: DependencyResolver#computeDependencies는 getState()와 함께 StateMachine를 사용하여 구성된 타겟의 잠재적으로 큰 직접 종속 항목 집합을 계산합니다. 그러지 않으면 비용이 많이 드는 다시 시작이 발생할 수 있습니다.

기본적으로 Bazel은 이러한 유형의 해결 방법이 필요합니다. 수백만 개의 실행 중인 Skyframe 노드가 일반적이고 Java의 경량 스레드 지원이 2023년 현재 StateMachine 구현보다 성능이 우수하지 않기 때문입니다.

Starlark

Starlark는 Bazel을 구성하고 확장하는 데 사용하는 도메인별 언어입니다. Python의 제한된 하위 집합으로 간주되며, 유형이 훨씬 적고 제어 흐름에 대한 제한이 더 많으며, 무엇보다도 동시 읽기를 사용 설정할 수 있는 강력한 불변성을 보장합니다. Turing-complete가 아니므로 일부 사용자는 이 언어 내에서 일반적인 프로그래밍 작업을 수행하려고 하지 않습니다.

Starlark는 net.starlark.java 패키지에 구현되어 있습니다. 여기에서 독립적인 Go 구현도 확인할 수 있습니다. Bazel에서 사용되는 Java 구현은 현재 인터프리터입니다.

Starlark는 다음을 비롯한 여러 컨텍스트에서 사용됩니다.

  1. BUILD 파일 여기에서 새 빌드 타겟이 정의됩니다. 이 컨텍스트에서 실행되는 Starlark 코드는 BUILD 파일 자체의 콘텐츠와 BUILD 파일에서 로드된 .bzl 파일에만 액세스할 수 있습니다.
  2. MODULE.bazel 파일 여기에서 외부 종속 항목이 정의됩니다. 이 컨텍스트에서 실행되는 Starlark 코드는 사전 정의된 몇 가지 디렉티브에 대해서만 매우 제한적으로 액세스할 수 있습니다.
  3. .bzl 파일 여기에서 새 빌드 규칙, 저장소 규칙, 모듈 확장 프로그램이 정의됩니다. 여기서 Starlark 코드는 새 함수를 정의하고 다른 .bzl 파일에서 로드할 수 있습니다.

BUILD 및 .bzl 파일에 사용할 수 있는 방언은 서로 다른 것을 표현하므로 약간 다릅니다. 차이점 목록은 여기에서 확인할 수 있습니다.

Starlark에 관한 자세한 내용은 여기를 참고하세요.

로드/분석 단계

로드/분석 단계는 Bazel에서 특정 규칙을 빌드하는 데 필요한 작업을 결정하는 단계입니다. 기본 단위는 '구성된 타겟'으로, 이는 (타겟, 구성) 쌍입니다.

'로드/분석 단계'라고 하는 이유는 두 가지 서로 다른 부분으로 나눌 수 있기 때문입니다. 이 두 부분은 이전에는 직렬화되었지만 이제는 시간적으로 겹칠 수 있습니다.

  1. 패키지 로드: BUILD 파일을 이를 나타내는 Package 객체로 변환
  2. 구성된 타겟 분석, 즉 규칙 구현을 실행하여 작업 그래프 생성

명령줄에서 요청된 구성된 타겟의 전이 폐쇄에 있는 각 구성된 타겟은 하향식 방식으로 분석해야 합니다. 즉, 먼저 리프 노드를 분석한 다음 명령줄에 있는 노드까지 분석해야 합니다. 구성된 단일 타겟의 분석에 대한 입력은 다음과 같습니다.

  1. 구성. (이 규칙을 빌드하는 '방법', 예: 대상 플랫폼, 사용자가 C++ 컴파일러에 전달하려는 명령줄 옵션 등)
  2. 직접 종속 항목 분석 중인 규칙에서 전이 정보 제공업체를 사용할 수 있습니다. 이러한 클래스는 구성된 타겟의 전이 폐쇄에서 정보의 '롤업'을 제공하기 때문에 이렇게 불립니다(예: 클래스 경로의 모든 .jar 파일 또는 C++ 바이너리에 연결해야 하는 모든 .o 파일).
  3. 타겟 자체 이는 타겟이 있는 패키지를 로드한 결과입니다. 규칙의 경우 일반적으로 중요한 속성이 포함됩니다.
  4. 구성된 타겟의 구현입니다. 규칙의 경우 Starlark 또는 Java일 수 있습니다. 규칙이 아닌 구성된 모든 타겟은 Java로 구현됩니다.

구성된 타겟을 분석한 결과는 다음과 같습니다.

  1. 이에 종속된 타겟을 구성한 전이 정보 제공업체는 다음에 액세스할 수 있습니다.
  2. 생성할 수 있는 아티팩트와 아티팩트를 생성하는 작업

Java 규칙에 제공되는 API는 RuleContext이며, 이는 Starlark 규칙의 ctx 인수와 같습니다. API는 더 강력하지만, 동시에 나쁜 일™을 더 쉽게 할 수 있습니다. 예를 들어 시간 또는 공간 복잡도가 이차식 (또는 그 이상)인 코드를 작성하거나, Bazel 서버가 Java 예외와 함께 비정상 종료되도록 하거나, 불변식을 위반할 수 있습니다 (예: 의도치 않게 Options 인스턴스를 수정하거나 구성된 타겟을 변경 가능하도록 함).

구성된 타겟의 직접 종속 항목을 결정하는 알고리즘은 DependencyResolver.dependentNodeMap()에 있습니다.

구성

구성은 대상을 빌드하는 '방법'입니다. 즉, 어떤 플랫폼에서 어떤 명령줄 옵션을 사용하여 빌드할지 지정합니다.

동일한 빌드에서 여러 구성에 대해 동일한 타겟을 빌드할 수 있습니다. 이는 빌드 중에 실행되는 도구와 타겟 코드에 동일한 코드가 사용되고 크로스 컴파일을 실행 중이거나 대용량 Android 앱 (여러 CPU 아키텍처의 네이티브 코드가 포함된 앱)을 빌드하는 경우에 유용합니다.

개념적으로 구성은 BuildOptions 인스턴스입니다. 그러나 실제로는 BuildOptions가 추가적인 다양한 기능을 제공하는 BuildConfiguration로 래핑됩니다. 종속 항목 그래프의 상단에서 하단으로 전파됩니다. 변경되면 빌드를 다시 분석해야 합니다.

이로 인해 예를 들어 요청된 테스트 실행 수가 변경되면 테스트 타겟에만 영향을 미치더라도 전체 빌드를 다시 분석해야 하는 등의 이상이 발생합니다. 이러한 일이 발생하지 않도록 구성을 '축소'할 계획이지만 아직 준비되지 않았습니다.

규칙 구현에 구성의 일부가 필요한 경우 RuleClass.Builder.requiresConfigurationFragments()를 사용하여 정의에서 선언해야 합니다. 이는 Java 프래그먼트를 사용하는 Python 규칙과 같은 실수를 방지하고 Python 옵션이 변경되는 경우 C++ 타겟을 다시 분석할 필요가 없도록 구성 트리밍을 용이하게 하기 위한 것입니다.

규칙의 구성은 '상위' 규칙의 구성과 반드시 같지 않습니다. 종속 항목 에지의 구성을 변경하는 프로세스를 '구성 전환'이라고 합니다. 다음 두 가지 위치에서 발생할 수 있습니다.

  1. 종속 항목 가장자리에 이러한 전환은 Attribute.Builder.cfg()에 지정되며 Rule (전환이 발생하는 위치) 및 BuildOptions (원래 구성)에서 하나 이상의 BuildOptions (출력 구성)로의 함수입니다.
  2. 구성된 타겟으로 들어오는 모든 에지에 이는 RuleClass.Builder.cfg()에 지정됩니다.

관련 클래스는 TransitionFactory 및 ConfigurationTransition입니다.

구성 전환은 다음과 같이 사용됩니다.

  1. 특정 종속 항목이 빌드 중에 사용되므로 실행 아키텍처에서 빌드되어야 한다고 선언합니다.
  2. 특정 종속 항목이 여러 아키텍처 (예: 대용량 Android APK의 네이티브 코드)용으로 빌드되어야 한다고 선언합니다.

구성 전환으로 인해 여러 구성이 생성되는 경우 이를 분할 전환이라고 합니다.

구성 전환은 Starlark에서도 구현할 수 있습니다 (문서 여기).

전이 정보 제공자

전이 정보 제공업체는 구성된 타겟이 종속되는 다른 구성된 타겟에 관해 학습하는 유일한 방법이며, 자신에 관해 종속되는 다른 구성된 타겟에 알리는 유일한 방법입니다. 이름에 '전이'가 포함된 이유는 일반적으로 구성된 타겟의 전이 폐쇄의 일종의 롤업이기 때문입니다.

일반적으로 Java 전이 정보 제공자와 Starlark 정보 제공자 간에 1:1 대응 관계가 있습니다. 단, DefaultInfo는 예외입니다. 이 API는 Java API의 직접적인 번역본이 아닌 Starlark에 더 가깝다고 간주되어 FileProvider, FilesToRunProvider, RunfilesProvider의 통합입니다. 키는 다음 중 하나입니다.

  1. Java 클래스 객체입니다. 이는 Starlark에서 액세스할 수 없는 제공업체에만 사용할 수 있습니다. 이러한 제공업체는 TransitiveInfoProvider의 서브클래스입니다.
  2. 문자열. 이는 기존 방식이며 이름 충돌이 발생할 수 있으므로 권장하지 않습니다. 이러한 전이 정보 제공자는 build.lib.packages.Info의 직접 하위 클래스입니다 .
  3. 제공업체 기호 이는 provider() 함수를 사용하여 Starlark에서 만들 수 있으며 새 제공자를 만드는 데 권장되는 방법입니다. 이 기호는 Java에서 Provider.Key 인스턴스로 표시됩니다.

Java로 구현된 새 제공업체는 BuiltinProvider를 사용하여 구현해야 합니다. NativeProvider는 지원 중단되었으며 (아직 삭제할 시간이 없음) TransitiveInfoProvider 서브클래스는 Starlark에서 액세스할 수 없습니다.

구성된 대상

구성된 타겟은 RuleConfiguredTargetFactory로 구현됩니다. Java로 구현된 각 규칙 클래스의 서브클래스가 있습니다. Starlark 구성 타겟은 StarlarkRuleConfiguredTargetUtil.buildRule()를 통해 생성됩니다 .

구성된 타겟 팩토리는 RuleConfiguredTargetBuilder를 사용하여 반환 값을 구성해야 합니다. 다음으로 구성됩니다.

  1. filesToBuild: '이 규칙이 나타내는 파일 집합'이라는 모호한 개념입니다. 구성된 타겟이 명령줄에 있거나 genrule의 src에 있을 때 빌드되는 파일입니다.
  2. 일반 및 데이터 런파일
  3. 출력 그룹 규칙이 빌드할 수 있는 다양한 '기타 파일 세트'입니다. BUILD의 filegroup 규칙의 output_group 속성을 사용하고 Java의 OutputGroupInfo 제공자를 사용하여 액세스할 수 있습니다.

Runfiles

일부 바이너리는 실행하려면 데이터 파일이 필요합니다. 입력 파일이 필요한 테스트가 대표적인 예입니다. 이는 Bazel에서 'runfiles' 개념으로 표현됩니다. 'runfiles 트리'는 특정 바이너리의 데이터 파일 디렉터리 트리입니다. 이는 소스 또는 출력 트리의 파일을 가리키는 개별 심볼릭 링크가 있는 심볼릭 링크 트리로 파일 시스템에 생성됩니다.

runfile 세트는 Runfiles 인스턴스로 표현됩니다. 개념적으로는 실행 파일 트리의 파일 경로에서 이를 나타내는 Artifact 인스턴스로의 매핑입니다. 다음 두 가지 이유로 단일 Map보다 약간 더 복잡합니다.

  • 대부분의 경우 파일의 runfiles 경로는 execpath와 동일합니다. 이를 사용하여 RAM을 절약합니다.
  • runfiles 트리에는 다양한 기존 유형의 항목이 있으며, 이러한 항목도 표현되어야 합니다.

Runfile은 RunfilesProvider를 사용하여 수집됩니다. 이 클래스의 인스턴스는 구성된 타겟 (예: 라이브러리)의 Runfile과 그 전이 종료 필요성을 나타내며 중첩된 집합처럼 수집됩니다 (실제로는 덮개 아래에서 중첩된 집합을 사용하여 구현됨). 각 타겟은 종속 항목의 Runfile을 결합하고 자체 Runfile을 일부 추가한 후 종속 항목 그래프에서 결과 집합을 위쪽으로 전송합니다. RunfilesProvider 인스턴스에는 두 개의 Runfiles 인스턴스가 포함됩니다. 하나는 규칙이 'data' 속성을 통해 종속되는 경우이고 다른 하나는 다른 모든 종류의 수신 종속 항목에 관한 것입니다. 이는 타겟이 데이터 속성을 통해 종속될 때 다른 경우와 다른 런파일을 표시하는 경우가 있기 때문입니다. 이는 아직 제거하지 못한 원치 않는 기존 동작입니다.

바이너리의 런파일은 RunfilesSupport의 인스턴스로 표현됩니다. RunfilesSupport는 단지 매핑일 뿐인 Runfiles와 달리 실제로 빌드될 수 있는 기능이 있으므로 Runfiles와는 다릅니다. 이를 위해서는 다음과 같은 추가 구성요소가 필요합니다.

  • 입력 runfiles 매니페스트입니다. runfiles 트리의 직렬화된 설명입니다. 이는 실행 파일 트리의 콘텐츠에 대한 프록시로 사용되며 Bazel은 매니페스트의 콘텐츠가 변경되는 경우에만 실행 파일 트리가 변경된다고 가정합니다.
  • 출력 런파일 매니페스트 이는 런파일 트리를 처리하는 런타임 라이브러리에서 사용됩니다. 특히 Windows에서는 기호 링크를 지원하지 않는 경우가 있습니다.
  • runfiles 미들맨. runfiles 트리가 존재하려면 심볼릭 링크 트리와 심볼릭 링크가 가리키는 아티팩트를 빌드해야 합니다. 종속 항목 가장자리 수를 줄이기 위해 runfiles 미들맨을 사용하여 이러한 항목을 모두 나타낼 수 있습니다.
  • RunfilesSupport 객체가 runfile을 나타내는 바이너리를 실행하기 위한 명령줄 인수입니다.

관점

측면은 '종속 항목 그래프 아래로 계산을 전파'하는 방법입니다. Bazel 사용자를 위해 여기에 설명되어 있습니다. 프로토콜 버퍼가 좋은 예입니다. proto_library 규칙은 특정 언어에 관해 알 필요가 없지만 프로토콜 버퍼 메시지 (프로토콜 버퍼의 '기본 단위')의 구현을 빌드할 때는 프로그래밍 언어와 관계없이 proto_library 규칙에 결합해야 합니다. 그러면 동일한 언어의 두 타겟이 동일한 프로토콜 버퍼에 종속되는 경우 한 번만 빌드됩니다.

구성된 타겟과 마찬가지로 Skyframe에서 SkyValue로 표시되며 구성되는 방식은 구성된 타겟이 빌드되는 방식과 매우 유사합니다. RuleContext에 액세스할 수 있는 ConfiguredAspectFactory라는 팩토리 클래스가 있지만 구성된 타겟 팩토리와 달리 연결된 구성된 타겟과 그 제공자에 관해서도 알고 있습니다.

종속 항목 그래프 아래로 전파되는 측면 집합은 Attribute.Builder.aspects() 함수를 사용하여 각 속성에 지정됩니다. 이 프로세스에 참여하는 이름이 혼동스러운 클래스가 몇 가지 있습니다.

  1. AspectClass는 측면의 구현입니다. Java(이 경우 서브클래스) 또는 Starlark (이 경우 StarlarkAspectClass의 인스턴스)에 있을 수 있습니다. RuleConfiguredTargetFactory와 유사합니다.
  2. AspectDefinition는 측면의 정의입니다. 여기에는 측면이 필요로 하는 제공자, 측면이 제공하는 제공자가 포함되며 적절한 AspectClass 인스턴스와 같은 구현 참조가 포함됩니다. RuleClass와 유사합니다.
  3. AspectParameters는 종속 항목 그래프 아래로 전파되는 측면을 매개변수화하는 방법입니다. 현재 문자열 대 문자열 매핑입니다. 프로토콜 버퍼가 유용한 이유를 보여주는 좋은 예는 프로토콜 버퍼입니다. 언어에 여러 API가 있는 경우 프로토콜 버퍼를 빌드해야 하는 API에 관한 정보는 종속 항목 그래프 아래로 전파되어야 합니다.
  4. Aspect는 종속 항목 그래프 아래로 전파되는 측면을 계산하는 데 필요한 모든 데이터를 나타냅니다. 측정기준 클래스, 정의, 매개변수로 구성됩니다.
  5. RuleAspect는 특정 규칙이 적용되어야 하는 측면을 결정하는 함수입니다. Rule -> Aspect 함수입니다.

다소 예상치 못한 복잡성은 측면이 다른 측면에 연결될 수 있다는 점입니다. 예를 들어 Java IDE의 클래스 경로를 수집하는 측면은 클래스 경로의 모든 .jar 파일에 관해 알고 싶어 할 수 있지만, 그중 일부는 프로토콜 버퍼입니다. 이 경우 IDE 측면은 (proto_library 규칙 + Java 프로토 측면) 쌍에 연결하려고 합니다.

측면의 측면 복잡성은 AspectCollection 클래스에 포함됩니다.

플랫폼 및 도구 모음

Bazel은 멀티플랫폼 빌드를 지원합니다. 즉, 빌드 작업이 실행되는 아키텍처가 여러 개 있고 코드가 빌드되는 아키텍처가 여러 개 있는 빌드를 지원합니다. 이러한 아키텍처는 Bazel 용어로 플랫폼이라고 합니다 (전체 문서는 여기 참고).

플랫폼은 제약 조건 설정 (예: 'CPU 아키텍처' 개념)에서 제약 조건 값 (예: x86_64와 같은 특정 CPU)으로의 키-값 매핑으로 설명됩니다. @platforms 저장소에는 가장 일반적으로 사용되는 제약 조건 설정 및 값의 '사전'이 있습니다.

툴체인의 개념은 빌드가 실행되는 플랫폼과 타겟팅되는 플랫폼에 따라 컴파일러를 다르게 사용해야 할 수 있다는 사실에서 비롯됩니다. 예를 들어 특정 C++ 도구 모음은 특정 OS에서 실행되고 다른 OS를 타겟팅할 수 있습니다. Bazel은 설정된 실행 및 대상 플랫폼을 기반으로 사용되는 C++ 컴파일러를 결정해야 합니다(도구 모음 문서 여기 참고).

이를 위해 도구 모음은 지원하는 실행 및 타겟 플랫폼 제약 조건 집합으로 주석 처리됩니다. 이를 위해 도구 모음의 정의는 다음 두 부분으로 나뉩니다.

  1. 도구 모음이 지원하는 실행 및 타겟 제약 조건 집합을 설명하고 도구 모음의 종류 (예: C++ 또는 Java)를 나타내는 toolchain() 규칙 (후자는 toolchain_type() 규칙으로 표시됨)
  2. 실제 도구 모음을 설명하는 언어별 규칙 (예: cc_toolchain())

툴체인 해상도를 실행하려면 모든 툴체인의 제약 조건을 알아야 하며 언어별 *_toolchain() 규칙에는 그보다 훨씬 많은 정보가 포함되어 있으므로 로드하는 데 더 많은 시간이 걸리기 때문에 이렇게 합니다.

실행 플랫폼은 다음 방법 중 하나로 지정됩니다.

  1. register_execution_platforms() 함수를 사용하는 MODULE.bazel 파일
  2. 명령줄에서 --extra_execution_platforms 명령줄 옵션 사용

사용 가능한 실행 플랫폼 세트는 RegisteredExecutionPlatformsFunction에서 계산됩니다 .

구성된 타겟의 대상 플랫폼은 PlatformOptions.computeTargetPlatform()에 의해 결정됩니다 . 이는 향후 여러 타겟 플랫폼을 지원하기 위한 플랫폼 목록이지만 아직 구현되지 않았습니다.

구성된 타겟에 사용할 도구 모음 세트는 ToolchainResolutionFunction에 의해 결정됩니다. 다음의 함수입니다.

  • 등록된 도구 모음 집합 (MODULE.bazel 파일 및 구성)
  • 원하는 실행 및 대상 플랫폼 (구성)
  • 구성된 타겟에 필요한 도구 모음 유형 집합입니다. UnloadedToolchainContextKey)
  • UnloadedToolchainContextKey의 구성된 타겟 (exec_compatible_with 속성) 및 구성(--experimental_add_exec_constraints_to_targets)의 실행 플랫폼 제약 조건 집합

결과는 UnloadedToolchainContext이며 이는 기본적으로 도구 모음 유형 (ToolchainTypeInfo 인스턴스로 표시됨)에서 선택한 도구 모음의 라벨로의 매핑입니다. 툴체인 자체가 아닌 라벨만 포함되어 있으므로 '로드되지 않음'이라고 합니다.

그런 다음 도구 모음이 ResolvedToolchainContext.load()를 사용하여 실제로 로드되고 이를 요청한 구성된 타겟의 구현에서 사용됩니다.

또한 단일 '호스트' 구성이 있고 대상 구성이 --cpu와 같은 다양한 구성 플래그로 표시되는 기존 시스템도 있습니다 . Google은 위의 시스템으로 점진적으로 전환하고 있습니다. 사용자가 기존 구성 값을 사용하는 경우를 처리하기 위해 기존 플래그와 새로운 스타일의 플랫폼 제약 조건 간에 변환하는 플랫폼 매핑을 구현했습니다. 코드는 PlatformMappingFunction에 있으며 Starlark가 아닌 '작은 언어'를 사용합니다.

제약조건

타겟을 일부 플랫폼과만 호환되도록 지정해야 하는 경우가 있습니다. 안타깝게도 Bazel에는 이 목적을 달성하기 위한 여러 메커니즘이 있습니다.

  • 규칙별 제약조건
  • environment_group()/environment()
  • 플랫폼 제약조건

규칙별 제약조건은 주로 Google 내에서 Java 규칙에 사용됩니다. 지원 중단 예정이며 Bazel에서는 사용할 수 없지만 소스 코드에 이에 대한 참조가 포함될 수 있습니다. 이를 제어하는 속성을 constraints=라고 합니다 .

environment_group() 및 environment()

이 규칙은 기존 메커니즘이며 널리 사용되지 않습니다.

모든 빌드 규칙은 빌드할 수 있는 '환경'을 선언할 수 있으며, 여기서 '환경'은 environment() 규칙의 인스턴스입니다.

규칙에 지원되는 환경을 지정하는 방법에는 여러 가지가 있습니다.

  1. restricted_to= 속성을 통해 이는 가장 직접적인 사양 형식입니다. 규칙이 지원하는 정확한 환경 집합을 선언합니다.
  2. compatible_with= 속성을 통해 이렇게 하면 기본적으로 지원되는 '표준' 환경 외에도 규칙이 지원하는 환경을 선언할 수 있습니다.
  3. 패키지 수준 속성 default_restricted_to= 및 default_compatible_with=를 통해
  4. environment_group() 규칙의 기본 사양을 통해 모든 환경은 주제적으로 관련된 피어 그룹 (예: 'CPU 아키텍처', 'JDK 버전' 또는 '모바일 운영체제')에 속합니다. 환경 그룹의 정의에는 restricted_to= / environment() 속성으로 달리 지정되지 않은 경우 '기본값'으로 지원되어야 하는 환경이 포함됩니다. 이러한 속성이 없는 규칙은 모든 기본값을 상속합니다.
  5. 규칙 클래스 기본값을 통해 이렇게 하면 지정된 규칙 클래스의 모든 인스턴스에 대한 전역 기본값이 재정의됩니다. 예를 들어 각 인스턴스에서 이 기능을 명시적으로 선언하지 않고도 모든 *_test 규칙을 테스트 가능하게 만들 수 있습니다.

environment()는 일반 규칙으로 구현되는 반면 environment_group()는 Rule (EnvironmentGroup)가 아닌 Target의 서브클래스이자 Starlark(StarlarkLibrary.environmentGroup())에서 기본적으로 사용할 수 있는 함수로, 결국 동명의 타겟을 만듭니다. 이는 각 환경이 속한 환경 그룹을 선언해야 하고 각 환경 그룹이 기본 환경을 선언해야 하므로 발생할 수 있는 순환 종속 항목을 방지하기 위함입니다.

--target_environment 명령줄 옵션을 사용하여 빌드를 특정 환경으로 제한할 수 있습니다.

제약 조건 확인의 구현은 RuleContextConstraintSemantics 및 TopLevelConstraintSemantics에 있습니다.

플랫폼 제약조건

타겟이 호환되는 플랫폼을 설명하는 현재의 '공식'적인 방법은 도구 모음 및 플랫폼을 설명하는 데 사용되는 것과 동일한 제약조건을 사용하는 것입니다. 이 기능은 pull 요청 #10945에서 구현되었습니다.

공개 상태

Google과 같이 많은 개발자가 참여하는 대규모 코드베이스를 사용하는 경우 다른 모든 사용자가 내 코드에 임의로 종속되지 않도록 주의해야 합니다. 그렇지 않으면 하이럼의 법칙에 따라 구현 세부정보로 간주한 동작에 사람들이 의존하게 됩니다.

Bazel은 visibility라는 메커니즘을 통해 이를 지원합니다. visibility 속성을 사용하여 특정 타겟에 종속될 수 있는 타겟을 제한할 수 있습니다. 이 속성은 라벨 목록을 보유하고 있지만 이러한 라벨은 특정 타겟에 대한 포인터가 아닌 패키지 이름에 패턴을 인코딩할 수 있으므로 약간 특별합니다. (예, 이는 설계상의 결함입니다.)

이는 다음 위치에서 구현됩니다.

  • RuleVisibility 인터페이스는 공개 상태 선언을 나타냅니다. 상수는 상수 (전체 공개 또는 전체 비공개) 또는 라벨 목록일 수 있습니다.
  • 라벨은 패키지 그룹 (사전 정의된 패키지 목록), 패키지 직접 (//pkg:__pkg__) 또는 패키지의 하위 트리(//pkg:__subpackages__)를 참조할 수 있습니다. 이는 //pkg:* 또는 //pkg/...를 사용하는 명령줄 문법과 다릅니다.
  • 패키지 그룹은 자체 타겟 (PackageGroup) 및 구성된 타겟 (PackageGroupConfiguredTarget)으로 구현됩니다. 원하는 경우 이를 간단한 규칙으로 대체할 수 있습니다. 로직은 //pkg/...와 같은 단일 패턴에 해당하는 PackageSpecification, 단일 package_group의 packages 속성에 해당하는 PackageGroupContents, package_group 및 그 전이 includes에 대해 집계하는 PackageSpecificationProvider를 사용하여 구현됩니다.
  • 공개 상태 라벨 목록에서 종속 항목으로의 변환은 DependencyResolver.visitTargetVisibility 및 기타 몇 가지 곳에서 이루어집니다.
  • 실제 확인은 CommonPrerequisiteValidator.validateDirectPrerequisiteVisibility()에서 이루어집니다.

중첩된 세트

구성된 타겟은 종속 항목의 파일 집합을 집계하고 자체 파일을 추가한 다음 집계 집합을 전이 정보 제공업체로 래핑하여 종속 항목에 종속된 구성된 타겟이 동일한 작업을 할 수 있도록 합니다. 예:

  • 빌드에 사용되는 C++ 헤더 파일
  • cc_library의 전이 폐쇄를 나타내는 객체 파일
  • Java 규칙을 컴파일하거나 실행하기 위해 클래스 경로에 있어야 하는 .jar 파일 집합
  • Python 규칙의 전이 폐쇄에 있는 Python 파일 집합

예를 들어 List 또는 Set를 사용하여 순진한 방식으로 이 작업을 수행하면 메모리 사용량이 제곱식으로 증가합니다. N개의 규칙 체인이 있고 각 규칙이 파일을 추가하는 경우 1+2+...+N 개의 컬렉션 멤버가 생성됩니다.

이 문제를 해결하기 위해 NestedSet 개념을 고안했습니다. 다른 NestedSet 인스턴스와 자체 멤버로 구성되어 세트의 유향 비순환 그래프를 형성하는 데이터 구조입니다. 변경 불가능하며 구성원을 반복할 수 있습니다. 여러 반복 순서 (NestedSet.Order)를 정의합니다. 선행 순서, 후행 순서, 순서론적 순서(노드는 항상 조상 뒤에 표시됨), '관심 없음, 하지만 매번 동일해야 함'.

동일한 데이터 구조는 Starlark에서는 depset라고 합니다.

아티팩트 및 작업

실제 빌드는 사용자가 원하는 출력을 생성하기 위해 실행해야 하는 명령어 집합으로 구성됩니다. 명령어는 Action 클래스의 인스턴스로 표시되고 파일은 Artifact 클래스의 인스턴스로 표시됩니다. '작업 그래프'라고 하는 이분 방향성 비순환 그래프에 정렬됩니다.

아티팩트에는 소스 아티팩트 (Bazel 실행을 시작하기 전에 사용할 수 있는 아티팩트)와 파생된 아티팩트 (빌드해야 하는 아티팩트)의 두 가지 유형이 있습니다. 파생된 아티팩트는 자체적으로 여러 종류가 될 수 있습니다.

  1. 일반 아티팩트 mtime을 단축키로 사용하여 체크섬을 계산하여 최신 상태인지 확인합니다. ctime이 변경되지 않은 경우 파일의 체크섬을 계산하지 않습니다.
  2. 해결되지 않은 심볼릭 링크 아티팩트 readlink()를 호출하여 최신 상태인지 확인합니다. 일반 아티팩트와 달리 이 아티팩트는 댕글링 심볼릭 링크일 수 있습니다. 일반적으로 일부 파일을 일종의 보관 파일로 묶는 경우에 사용됩니다.
  3. 트리 아티팩트 단일 파일이 아니라 디렉터리 트리입니다. 빌드 도구는 빌드 도구의 파일 세트와 콘텐츠를 확인하여 최신 상태인지 확인합니다. TreeArtifact로 표시됩니다.
  4. 상수 메타데이터 아티팩트. 이러한 아티팩트를 변경해도 리빌드가 트리거되지 않습니다. 이는 빌드 스탬프 정보에만 사용됩니다. 현재 시간이 변경되었다고 해서 빌드를 다시 수행하고 싶지는 않습니다.

소스 아티팩트가 트리 아티팩트 또는 확인되지 않은 심볼릭 링크 아티팩트가 될 수 없는 근본적인 이유는 없습니다. 아직 구현하지 않았을 뿐입니다. 하지만 구현해야 합니다. BUILD 파일에서 소스 디렉터리를 참조하는 것은 Bazel의 오래된 잘못된 문제 중 하나입니다. BAZEL_TRACK_SOURCE_DIRECTORIES=1 JVM 속성으로 사용 설정되는 이러한 방식으로 작동하는 구현이 있습니다.

주목할 만한 Artifact 유형은 미들맨입니다. MiddlemanAction의 출력인 Artifact 인스턴스로 표시됩니다. 다음과 같은 특수한 경우에 사용됩니다.

  • 실행 파일 미들맨은 실행 파일 트리가 있는지 확인하는 데 사용되므로 출력 매니페스트와 실행 파일 트리에서 참조하는 모든 아티팩트에 별도로 종속될 필요가 없습니다.

작업은 실행해야 하는 명령어, 필요한 환경, 생성하는 출력 집합으로 이해하는 것이 가장 좋습니다. 다음은 작업 설명의 주요 구성요소입니다.

  • 실행해야 하는 명령줄
  • 필요한 입력 아티팩트
  • 설정해야 하는 환경 변수
  • 실행해야 하는 환경 (예: 플랫폼)을 설명하는 주석입니다. \

Bazel에 알려진 콘텐츠가 포함된 파일을 작성하는 것과 같은 몇 가지 다른 특수한 사례도 있습니다. AbstractAction의 서브클래스입니다. 대부분의 작업은 SpawnAction 또는 StarlarkAction입니다 (동일하며 별도의 클래스가 아니어야 함). Java와 C++에는 자체 작업 유형(JavaCompileAction, CppCompileAction, CppLinkAction)이 있습니다.

결국 모든 것을 SpawnAction로 이동하려고 합니다. JavaCompileAction도 거의 비슷하지만 C++는 .d 파일 파싱 및 include 검사로 인해 약간 특별한 사례입니다.

작업 그래프는 대부분 Skyframe 그래프에 '삽입'됩니다. 개념적으로 작업 실행은 ActionExecutionFunction 호출로 표현됩니다. 작업 그래프 종속 항목 에지에서 Skyframe 종속 항목 에지로의 매핑은 ActionExecutionFunction.getInputDeps() 및 Artifact.key()에 설명되어 있으며 Skyframe 에지 수를 적게 유지하기 위한 몇 가지 최적화가 있습니다.

  • 파생된 아티팩트에는 자체 SkyValue가 없습니다. 대신 Artifact.getGeneratingActionKey()는 이를 생성하는 작업의 키를 찾는 데 사용됩니다.
  • 중첩된 세트에는 자체 Skyframe 키가 있습니다.

공유 작업

일부 작업은 구성된 여러 타겟에 의해 생성됩니다. Starlark 규칙은 파생된 작업을 구성 및 패키지에 의해 결정된 디렉터리에만 배치할 수 있으므로 더 제한적입니다 (그렇더라도 동일한 패키지의 규칙이 충돌할 수 있음). 하지만 Java로 구현된 규칙은 파생된 아티팩트를 어디에나 배치할 수 있습니다.

이는 오작동으로 간주되지만 이를 제거하는 것은 매우 어렵습니다. 예를 들어 소스 파일을 어떻게든 처리해야 하고 이 파일이 여러 규칙에서 참조되는 경우 (손 흔들기-손 흔들기) 실행 시간이 크게 절약되기 때문입니다. 이렇게 하면 RAM이 약간 소모됩니다. 공유 작업의 각 인스턴스는 메모리에 별도로 저장되어야 합니다.

두 작업이 동일한 출력 파일을 생성하는 경우 두 작업은 정확히 동일해야 합니다. 즉, 동일한 입력과 동일한 출력을 갖고 동일한 명령줄을 실행해야 합니다. 이 등가 관계는 Actions.canBeShared()에서 구현되며 모든 작업을 확인하여 분석 단계와 실행 단계 간에 확인됩니다. 이는 SkyframeActionExecutor.findAndStoreArtifactConflicts()에 구현되며 Bazel에서 빌드의 '전체' 뷰가 필요한 몇 안 되는 장소 중 하나입니다.

실행 단계

이때 Bazel은 출력을 생성하는 명령어와 같은 빌드 작업을 실제로 실행하기 시작합니다.

Bazel은 분석 단계 후 가장 먼저 빌드해야 하는 아티팩트를 결정합니다. 이 로직은 TopLevelArtifactHelper에 인코딩됩니다. 대략적으로 말하자면 명령줄에 구성된 타겟의 filesToBuild와 '이 타겟이 명령줄에 있으면 이러한 아티팩트를 빌드합니다'를 명시적으로 표현하기 위한 특수 출력 그룹의 콘텐츠입니다.

다음 단계는 실행 루트를 만드는 것입니다. Bazel은 파일 시스템 (--package_path)의 여러 위치에서 소스 패키지를 읽을 수 있는 옵션이 있으므로 로컬에서 실행되는 작업에 전체 소스 트리를 제공해야 합니다. 이는 SymlinkForest 클래스에서 처리하며 분석 단계에서 사용된 모든 타겟을 기록하고 모든 패키지를 실제 위치의 사용된 타겟과 심볼릭 링크하는 단일 디렉터리 트리를 빌드하여 작동합니다. 또는 --package_path를 고려하여 명령어에 올바른 경로를 전달할 수도 있습니다. 이는 다음과 같은 이유로 바람직하지 않습니다.

  • 패키지가 패키지 경로 항목에서 다른 항목으로 이동할 때 작업 명령줄을 변경합니다 (이전에는 흔히 발생함).
  • 작업을 원격으로 실행하면 로컬에서 실행하는 경우와 다른 명령줄이 생성됩니다.
  • 사용 중인 도구에 맞는 명령줄 변환이 필요합니다(예: Java 클래스 경로와 C++ 포함 경로의 차이 고려).
  • 작업의 명령줄을 변경하면 작업 캐시 항목이 무효화됨
  • --package_path가 점진적으로 지원 중단되고 있습니다.

그런 다음 Bazel은 작업 그래프 (작업과 입력 및 출력 아티팩트로 구성된 이분 그래프)를 탐색하고 작업을 실행하기 시작합니다. 각 작업의 실행은 SkyValue 클래스 ActionExecutionValue의 인스턴스로 표시됩니다.

작업 실행은 비용이 많이 들기 때문에 Skyframe 뒤에서 실행할 수 있는 몇 가지 캐싱 레이어가 있습니다.

  • ActionExecutionFunction.stateMap에는 ActionExecutionFunction의 Skyframe 재시작을 저렴하게 만드는 데이터가 포함되어 있습니다.
  • 로컬 작업 캐시에는 파일 시스템 상태에 관한 데이터가 포함됩니다.
  • 원격 실행 시스템에는 일반적으로 자체 캐시도 포함됩니다.

오프라인 액션 캐시

이 캐시는 Skyframe 뒤에 있는 또 다른 레이어입니다. 작업이 Skyframe에서 다시 실행되더라도 로컬 작업 캐시에서 계속 히트할 수 있습니다. 로컬 파일 시스템의 상태를 나타내며 디스크에 직렬화됩니다. 즉, 새 Bazel 서버를 시작할 때 Skyframe 그래프가 비어 있더라도 로컬 작업 캐시 히트를 가져올 수 있습니다.

이 캐시는 ActionCacheChecker.getTokenIfNeedToExecute() 메서드를 사용하여 조회수를 확인합니다 .

이름과는 달리 파생된 아티팩트의 경로에서 이를 내보낸 작업으로 이어지는 맵입니다. 작업은 다음과 같이 설명됩니다.

  1. 입력 및 출력 파일 집합과 체크섬
  2. '작업 키'는 일반적으로 실행된 명령줄이지만 일반적으로 입력 파일의 체크섬으로 캡처되지 않은 모든 항목을 나타냅니다 (예: FileWriteAction의 경우 쓰여진 데이터의 체크섬).

또한 아직 개발 중인 매우 실험적인 '하향식 작업 캐시'도 있습니다. 이 캐시는 전이 해시를 사용하여 캐시를 여러 번 방문하지 않습니다.

입력 검색 및 입력 프루닝

일부 작업은 입력 집합을 사용하는 것보다 더 복잡합니다. 작업의 입력 집합 변경은 두 가지 형태로 제공됩니다.

  • 작업은 실행 전에 새 입력을 발견하거나 일부 입력이 실제로 필요하지 않다고 결정할 수 있습니다. 대표적인 예는 C++입니다. 여기서는 모든 파일을 원격 실행자에게 전송하지 않도록 C++ 파일이 전이 폐쇄에서 사용하는 헤더 파일을 추측하는 것이 좋습니다. 따라서 모든 헤더 파일을 '입력'으로 등록하지 않고 소스 파일에서 전이적으로 포함된 헤더를 스캔한 후 #include 문에 언급된 헤더 파일만 입력으로 표시할 수 있습니다. 전체 C 프리프로세서를 구현할 필요가 없도록 과대 추정합니다. 이 옵션은 현재 Bazel에서 'false'로 하드웨어로 연결되어 있으며 Google에서만 사용됩니다.
  • 작업이 실행되는 동안 일부 파일이 사용되지 않았음을 인식할 수 있습니다. C++에서는 이를 '.d 파일'이라고 합니다. 컴파일러는 어떤 헤더 파일이 사용되었는지 사후에 알려줍니다. Make보다 증분 기능이 나쁘다는 불편을 피하기 위해 Bazel은 이 사실을 활용합니다. 이는 컴파일러를 사용하므로 포함 스캐너보다 더 정확한 추정치를 제공합니다.

이는 작업의 메서드를 사용하여 구현됩니다.

  1. Action.discoverInputs()가 호출됩니다. 필수로 확인된 중첩된 아티팩트 세트를 반환해야 합니다. 구성된 타겟 그래프에 상응하는 항목이 없는 종속 항목 가장자리가 작업 그래프에 없도록 소스 아티팩트여야 합니다.
  2. 작업은 Action.execute()를 호출하여 실행됩니다.
  3. Action.execute() 끝에서 작업은 Action.updateInputs()를 호출하여 일부 입력이 필요하지 않다고 Bazel에 알릴 수 있습니다. 사용된 입력이 사용되지 않은 것으로 보고되면 잘못된 증분 빌드가 발생할 수 있습니다.

작업 캐시가 새 작업 인스턴스 (예: 서버 재시작 후 생성됨)에서 적중을 반환하면 Bazel은 입력 세트가 이전에 실행된 입력 검색 및 프루닝의 결과를 반영하도록 updateInputs() 자체를 호출합니다.

Starlark 작업은 이 기능을 사용하여 ctx.actions.run()의 unused_inputs_list= 인수를 사용하여 일부 입력을 사용되지 않음으로 선언할 수 있습니다.

작업을 실행하는 다양한 방법: Strategies/ActionContexts

일부 작업은 여러 가지 방법으로 실행할 수 있습니다. 예를 들어 명령줄은 로컬에서, 로컬이지만 다양한 종류의 샌드박스에서 또는 원격에서 실행할 수 있습니다. 이를 구현하는 개념을 ActionContext (또는 Strategy, 이름 바꾸기를 반쯤만 완료했으므로)라고 합니다.

작업 컨텍스트의 수명 주기는 다음과 같습니다.

  1. 실행 단계가 시작되면 BlazeModule 인스턴스에 어떤 작업 컨텍스트가 있는지 묻는 메시지가 표시됩니다. 이는 ExecutionTool의 생성자에서 발생합니다. 작업 컨텍스트 유형은 ActionContext의 하위 인터페이스를 참조하고 작업 컨텍스트가 구현해야 하는 인터페이스인 Java Class 인스턴스로 식별됩니다.
  2. 사용 가능한 작업 컨텍스트 중에서 적절한 작업 컨텍스트가 선택되어 ActionExecutionContext 및 BlazeExecutor에 전달됩니다 .
  3. 작업은 ActionExecutionContext.getContext() 및 BlazeExecutor.getStrategy()를 사용하여 컨텍스트를 요청합니다 (실제로는 한 가지 방법만 있어야 함).

전략은 다른 전략을 호출하여 작업을 실행할 수 있습니다. 이는 예를 들어 로컬과 원격에서 모두 작업을 시작하고 먼저 완료되는 작업을 사용하는 동적 전략에서 사용됩니다.

주목할 만한 전략 중 하나는 영구 작업자 프로세스(WorkerSpawnStrategy)를 구현하는 전략입니다. 일부 도구는 시작 시간이 길기 때문에 모든 작업마다 새로 시작하는 대신 작업 간에 재사용해야 한다는 것이 그 개념입니다. Bazel은 개별 요청 간에 관찰 가능한 상태를 전달하지 않는다는 작업자 프로세스의 약속에 의존하므로 이는 잠재적인 정확성 문제를 나타냅니다.

도구가 변경되면 작업자 프로세스를 다시 시작해야 합니다. 작업자를 재사용할 수 있는지 여부는 WorkerFilesHash를 사용하여 사용된 도구의 체크섬을 계산하여 결정됩니다. 이는 동작의 어떤 입력이 도구의 일부를 나타내고 어떤 입력이 입력을 나타내는지 아는 데 기반합니다. 이는 작업의 작성자가 결정합니다. Spawn.getToolFiles() 및 Spawn의 runfile은 도구의 일부로 간주됩니다.

전략 (또는 작업 컨텍스트)에 대한 자세한 내용은 다음을 참고하세요.

  • 작업 실행을 위한 다양한 전략에 관한 정보는 여기에서 확인할 수 있습니다.
  • 동적 전략에 관한 정보는 여기에서 확인할 수 있습니다. 이 전략에서는 로컬과 원격에서 모두 작업을 실행하여 먼저 완료되는 작업을 확인합니다.
  • 로컬에서 작업을 실행하는 것의 복잡성에 관한 정보는 여기에서 확인할 수 있습니다.

로컬 리소스 관리자

Bazel은 여러 작업을 동시에 실행할 수 있습니다. 동시에 실행해야 하는 로컬 작업 수는 작업마다 다릅니다. 작업에 필요한 리소스가 많을수록 로컬 머신의 오버로드를 방지하기 위해 동시에 실행되는 인스턴스가 적어야 합니다.

이는 ResourceManager 클래스에서 구현됩니다. 각 작업에는 필요한 로컬 리소스의 예상치가 ResourceSet 인스턴스 (CPU 및 RAM) 형식으로 주석으로 추가되어야 합니다. 그런 다음 작업 컨텍스트가 로컬 리소스가 필요한 작업을 실행하면 ResourceManager.acquireResources()를 호출하고 필요한 리소스를 사용할 수 있을 때까지 차단됩니다.

로컬 리소스 관리에 관한 자세한 내용은 여기를 참고하세요.

출력 디렉터리의 구조

각 작업에는 출력을 배치할 출력 디렉터리의 별도의 위치가 필요합니다. 파생된 아티팩트의 위치는 일반적으로 다음과 같습니다.

$EXECROOT/bazel-out/<configuration>/bin/<package>/<artifact name>

특정 구성과 연결된 디렉터리의 이름은 어떻게 결정되나요? 다음과 같이 두 가지 상반된 바람직한 속성이 있습니다.

  1. 동일한 빌드에서 두 구성이 발생할 수 있는 경우 두 구성 모두 동일한 작업의 자체 버전을 가질 수 있도록 서로 다른 디렉터리를 가져야 합니다. 그렇지 않으면 동일한 출력 파일을 생성하는 작업의 명령줄과 같이 두 구성이 일치하지 않으면 Bazel은 선택할 작업을 알 수 없습니다('작업 충돌').
  2. 두 구성이 '대략' 동일한 것을 나타내는 경우 명령줄이 일치하는 경우 하나에서 실행된 작업을 다른 작업에 재사용할 수 있도록 동일한 이름을 가져야 합니다. 예를 들어 Java 컴파일러의 명령줄 옵션을 변경해도 C++ 컴파일 작업이 다시 실행되지 않아야 합니다.

지금까지 구성 트리밍 문제와 유사한 이 문제를 해결하는 원칙적인 방법을 찾지 못했습니다. 옵션에 관한 자세한 내용은 여기를 참고하세요. 주요 문제 영역은 Starlark 규칙 (작성자가 일반적으로 Bazel에 익숙하지 않음)과 측면으로, '동일한' 출력 파일을 생성할 수 있는 사물의 공간에 또 다른 차원을 추가합니다.

현재 접근 방식은 Java에서 구현된 구성 전환으로 인해 작업 충돌이 발생하지 않도록 구성의 경로 세그먼트가 다양한 접미사가 추가된 <CPU>-<compilation mode>입니다. 또한 사용자가 작업 충돌을 일으킬 수 없도록 Starlark 구성 전환 집합의 체크섬이 추가되었습니다. 완벽하지는 않습니다. 이는 OutputDirectories.buildMnemonic()에서 구현되며 각 구성 프래그먼트가 출력 디렉터리의 이름에 자체 부분을 추가하는 것을 사용합니다.

테스트

Bazel은 테스트 실행을 위한 풍부한 지원을 제공합니다. 지원되는 옵션은 다음과 같습니다.

  • 원격으로 테스트 실행 (원격 실행 백엔드를 사용할 수 있는 경우)
  • 테스트를 여러 번 동시에 실행 (플래킹 제거 또는 타이밍 데이터 수집)
  • 테스트 샤딩 (속도를 위해 동일한 테스트에서 여러 프로세스에 걸쳐 테스트 사례 분할)
  • 불안정한 테스트 재실행
  • 테스트를 테스트 모음으로 그룹화

테스트는 테스트 실행 방법을 설명하는 TestProvider가 있는 정규 구성 타겟입니다.

  • 빌드 결과 테스트가 실행되는 아티팩트입니다. 직렬화된 TestResultData 메시지가 포함된 '캐시 상태' 파일입니다.
  • 테스트를 실행해야 하는 횟수
  • 테스트를 분할할 샤드 수입니다.
  • 테스트 실행 방법에 관한 일부 매개변수 (예: 테스트 시간 제한)

실행할 테스트 결정

실행할 테스트를 결정하는 것은 복잡한 프로세스입니다.

먼저 타겟 패턴 파싱 중에 테스트 모음이 재귀적으로 확장됩니다. 확장은 TestsForTargetPatternFunction에서 구현됩니다. 다소 놀라운 점은 테스트 모음이 테스트를 선언하지 않으면 패키지의 모든 테스트를 참조한다는 것입니다. 이는 테스트 모음 규칙에 $implicit_tests라는 암시적 속성을 추가하여 Package.beforeBuild()에서 구현됩니다.

그런 다음 명령줄 옵션에 따라 크기, 태그, 시간 제한, 언어를 기준으로 테스트가 필터링됩니다. 이는 TestFilter에서 구현되며 타겟 파싱 중에 TargetPatternPhaseFunction.determineTests()에서 호출되고 결과는 TargetPatternPhaseValue.getTestsToRunLabels()에 배치됩니다. 필터링할 수 있는 규칙 속성을 구성할 수 없는 이유는 분석 단계 전에 발생하므로 구성을 사용할 수 없기 때문입니다.

그런 다음 BuildView.createResult()에서 추가로 처리됩니다. 분석에 실패한 타겟은 필터링되고 테스트는 배타적 테스트와 비배타적 테스트로 분할됩니다. 그런 다음 AnalysisResult에 저장되며, 이를 통해 ExecutionTool는 실행할 테스트를 알 수 있습니다.

이 정교한 프로세스에 투명성을 부여하기 위해 tests() 쿼리 연산자 (TestsFunction에 구현됨)를 사용하여 명령줄에서 특정 타겟이 지정될 때 실행되는 테스트를 지정할 수 있습니다. 안타깝게도 재구현이므로 여러 가지 미묘한 방식으로 위와 다를 수 있습니다.

테스트 실행

테스트는 캐시 상태 아티팩트를 요청하여 실행됩니다. 그러면 TestRunnerAction가 실행되고 결국 --test_strategy 명령줄 옵션에서 선택한 TestActionContext를 호출하여 요청된 방식으로 테스트를 실행합니다.

테스트는 환경 변수를 사용하여 테스트에서 예상되는 사항을 테스트에 알리는 정교한 프로토콜에 따라 실행됩니다. Bazel이 테스트에서 기대하는 사항과 테스트에서 Bazel이 기대할 수 있는 사항에 관한 자세한 설명은 여기를 참고하세요. 가장 간단하게 종료 코드 0은 성공을, 그 외의 값은 실패를 의미합니다.

각 테스트 프로세스는 캐시 상태 파일 외에도 여러 다른 파일을 내보냅니다. '테스트 로그 디렉터리'에 배치되며, 이는 대상 구성의 출력 디렉터리의 testlogs라는 하위 디렉터리입니다.

  • test.xml: 테스트 샤드의 개별 테스트 사례를 자세히 설명하는 JUnit 형식의 XML 파일
  • test.log: 테스트의 콘솔 출력입니다. stdout과 stderr은 분리되지 않습니다.
  • test.outputs: '선언되지 않은 출력 디렉터리'입니다. 터미널에 출력하는 것 외에도 파일을 출력하려는 테스트에서 사용합니다.

테스트 실행 중에 일반 타겟 빌드 중에 발생할 수 없는 두 가지 작업이 있습니다. 독점 테스트 실행 및 출력 스트리밍입니다.

일부 테스트는 다른 테스트와 동시에 실행되지 않고 독점 모드로 실행해야 합니다. 테스트 규칙에 tags=["exclusive"]를 추가하거나 --test_strategy=exclusive로 테스트를 실행하면 이를 유도할 수 있습니다 . 각 배타적 테스트는 '기본' 빌드 후 테스트 실행을 요청하는 별도의 Skyframe 호출에 의해 실행됩니다. 이는 SkyframeExecutor.runExclusiveTest()에서 구현됩니다.

작업이 완료될 때 터미널 출력이 덤프되는 일반 작업과 달리, 사용자는 장기 실행 테스트의 진행 상황을 알 수 있도록 테스트 출력을 스트리밍하도록 요청할 수 있습니다. 이는 --test_output=streamed 명령줄 옵션으로 지정되며, 서로 다른 테스트의 출력이 섞이지 않도록 배타적 테스트 실행을 의미합니다.

이는 적절한 이름의 StreamedTestOutput 클래스에서 구현되며, 해당 테스트의 test.log 파일 변경사항을 폴링하고 Bazel 규칙이 있는 터미널에 새 바이트를 덤프하여 작동합니다.

실행된 테스트의 결과는 다양한 이벤트 (예: TestAttempt, TestResult, TestingCompleteEvent)를 관찰하여 이벤트 버스에서 확인할 수 있습니다. 이러한 결과는 Build Event Protocol에 덤프되고 AggregatingTestListener에 의해 콘솔로 내보내집니다.

노출 범위 수집

테스트에서 bazel-testlogs/$PACKAGE/$TARGET/coverage.dat 파일의 LCOV 형식으로 노출을 보고합니다 .

적용 범위를 수집하기 위해 각 테스트 실행은 collect_coverage.sh라는 스크립트로 래핑됩니다 .

이 스크립트는 테스트 환경을 설정하여 적용 범위 수집을 사용 설정하고 적용 범위 런타임에서 적용 범위 파일이 작성되는 위치를 확인합니다. 그런 다음 테스트를 실행합니다. 테스트 자체가 여러 하위 프로세스를 실행할 수 있으며 별도의 적용 범위 수집 런타임이 있는 여러 프로그래밍 언어로 작성된 부분으로 구성될 수 있습니다. 래퍼 스크립트는 필요한 경우 결과 파일을 LCOV 형식으로 변환하고 단일 파일로 병합합니다.

collect_coverage.sh의 삽입은 테스트 전략에 의해 실행되며 collect_coverage.sh가 테스트의 입력에 있어야 합니다. 이는 구성 플래그 --coverage_support의 값으로 확인되는 암시적 속성 :coverage_support를 통해 이루어집니다 (TestConfiguration.TestOptions.coverageSupport 참고).

일부 언어는 오프라인 계측을 실행합니다. 즉, 적용 범위 계측이 컴파일 시간에 추가됩니다 (예: C++). 다른 언어는 온라인 계측을 실행합니다. 즉, 적용 범위 계측이 실행 시간에 추가됩니다.

또 다른 핵심 개념은 기준 범위입니다. 이는 라이브러리, 바이너리 또는 테스트의 코드가 실행되지 않은 경우의 적용 범위입니다. 이 방법은 바이너리의 테스트 적용 범위를 계산하려는 경우 모든 테스트의 적용 범위를 병합하는 것만으로는 충분하지 않다는 문제를 해결합니다. 바이너리에 테스트에 연결되지 않은 코드가 있을 수 있기 때문입니다. 따라서 적용 범위를 수집하는 파일만 포함되고 적용 범위가 적용된 행은 없는 바이너리별로 적용 범위 파일을 내보냅니다. 타겟의 기본 기준 범위 파일은 bazel-testlogs/$PACKAGE/$TARGET/baseline_coverage.dat에 있지만 규칙은 소스 파일의 이름보다 더 의미 있는 콘텐츠로 자체 기준 범위 파일을 생성하는 것이 좋습니다.

각 규칙의 적용 범위 수집을 위해 계측된 파일 집합과 계측 메타데이터 파일 집합이라는 두 가지 파일 그룹을 추적합니다.

계측된 파일 집합은 계측할 파일 집합일 뿐입니다. 온라인 적용 범위 런타인의 경우 런타임에 이를 사용하여 계측할 파일을 결정할 수 있습니다. 기준 범위를 구현하는 데도 사용됩니다.

계측 메타데이터 파일 세트는 테스트에서 Bazel에 필요한 LCOV 파일을 생성하는 데 필요한 추가 파일 세트입니다. 실제로는 런타임별 파일로 구성됩니다. 예를 들어 gcc는 컴파일 중에 .gcno 파일을 내보냅니다. 이는 적용 범위 모드가 사용 설정된 경우 테스트 작업의 입력 집합에 추가됩니다.

노출 범위가 수집되고 있는지 여부는 BuildConfiguration에 저장됩니다. 이 비트에 따라 테스트 작업과 작업 그래프를 쉽게 변경할 수 있으므로 편리하지만 이 비트가 전환되면 모든 타겟을 다시 분석해야 합니다. C++와 같은 일부 언어의 경우 적용 범위를 수집할 수 있는 코드를 내보내려면 다른 컴파일러 옵션이 필요하므로 이 문제가 어느 정도 완화됩니다. 어쨌든 재분석이 필요하기 때문입니다.

적용 범위 지원 파일은 호출 정책에 의해 재정의될 수 있도록 암시적 종속 항목의 라벨을 통해 종속되므로 Bazel의 여러 버전 간에 다를 수 있습니다. 이러한 차이를 삭제하고 그중 하나를 표준화하는 것이 이상적입니다.

또한 Bazel 호출의 모든 테스트에 대해 수집된 적용 범위를 병합하는 '적용 범위 보고서'도 생성합니다. 이는 CoverageReportActionFactory에서 처리되며 BuildView.createResult()에서 호출됩니다 . 실행되는 첫 번째 테스트의 :coverage_report_generator 속성을 보고 필요한 도구에 액세스합니다.

쿼리 엔진

Bazel에는 다양한 그래프에 관해 다양한 질문을 하는 데 사용되는 작은 언어가 있습니다. 다음과 같은 쿼리 종류가 제공됩니다.

  • bazel query는 타겟 그래프를 조사하는 데 사용됩니다.
  • bazel cquery는 구성된 타겟 그래프를 조사하는 데 사용됩니다.
  • bazel aquery는 작업 그래프를 조사하는 데 사용됩니다.

이러한 각 항목은 AbstractBlazeQueryEnvironment를 서브클래스화하여 구현됩니다. QueryFunction를 서브클래스화하여 추가 쿼리 함수를 추가할 수 있습니다. 쿼리 결과를 스트리밍하려면 결과를 일부 데이터 구조로 수집하는 대신 query2.engine.Callback를 QueryFunction에 전달하여 반환하려는 결과에 대해 호출합니다.

쿼리 결과는 라벨, 라벨 및 규칙 클래스, XML, protobuf 등 다양한 방식으로 내보낼 수 있습니다. 이는 OutputFormatter의 서브클래스로 구현됩니다.

일부 쿼리 출력 형식 (proto)의 미묘한 요구사항은 Bazel에서 출력을 비교하고 특정 타겟이 변경되었는지 확인할 수 있도록 패키지 로드가 제공하는 _모든_ 정보를 내보내야 한다는 것입니다. 따라서 속성 값은 직렬화 가능해야 합니다. 그렇기 때문에 복잡한 Starlark 값을 가진 속성이 없는 속성 유형은 거의 없습니다. 일반적인 해결 방법은 라벨을 사용하고 이 라벨을 사용하여 복잡한 정보를 규칙에 연결하는 것입니다. 만족스러운 해결 방법은 아니며 이 요구사항을 삭제하는 것이 좋습니다.

모듈 시스템

Bazel은 모듈을 추가하여 확장할 수 있습니다. 각 모듈은 BlazeModule를 서브클래스화해야 하며 (이름은 Bazel이 Blaze라고 불렸던 시절의 유물입니다) 명령어 실행 중에 다양한 이벤트에 관한 정보를 가져옵니다.

이는 대부분 일부 버전의 Bazel (예: Google에서 사용하는 버전)에서만 필요한 다양한 '비핵심' 기능을 구현하는 데 사용됩니다.

  • 원격 실행 시스템 인터페이스
  • 새 명령어

BlazeModule가 제공하는 확장 포인트 집합은 다소 무작위입니다. 좋은 설계 원칙의 예로 사용하지 마세요.

이벤트 버스

BlazeModules가 나머지 Bazel과 통신하는 기본 방법은 이벤트 버스(EventBus)를 사용하는 것입니다. 빌드마다 새 인스턴스가 생성되며 Bazel의 다양한 부분에서 이벤트를 게시할 수 있고 모듈은 관심 있는 이벤트의 리스너를 등록할 수 있습니다. 예를 들어 다음은 이벤트로 표시됩니다.

  • 빌드할 빌드 타겟 목록이 결정되었습니다(TargetParsingCompleteEvent).
  • 최상위 구성이 결정되었습니다(BuildConfigurationEvent).
  • 타겟이 빌드되었는지 여부 (TargetCompleteEvent)
  • 테스트가 실행되었습니다 (TestAttempt, TestSummary).

이러한 이벤트 중 일부는 Bazel 외부의 빌드 이벤트 프로토콜에 표시됩니다(BuildEvent). 이렇게 하면 BlazeModule뿐만 아니라 Bazel 프로세스 외부의 항목도 빌드를 관찰할 수 있습니다. 프로토콜 메시지가 포함된 파일로 액세스하거나 Bazel이 서버 (Build Event Service라고 함)에 연결하여 이벤트를 스트리밍할 수 있습니다.

이는 build.lib.buildeventservice 및 build.lib.buildeventstream Java 패키지에서 구현됩니다.

외부 저장소

Bazel은 원래 모노레포 (빌드하는 데 필요한 모든 것이 포함된 단일 소스 트리)에서 사용하도록 설계되었지만, Bazel은 반드시 그런 것은 아닌 환경에서 작동합니다. '외부 저장소'는 이러한 두 세계를 연결하는 데 사용되는 추상화입니다. 빌드에 필요하지만 기본 소스 트리에 없는 코드를 나타냅니다.

WORKSPACE 파일

외부 저장소 세트는 WORKSPACE 파일을 파싱하여 결정됩니다. 예를 들어 다음과 같은 선언이 있습니다.

    local_repository(name="foo", path="/foo/bar")

@foo라는 저장소의 결과를 사용할 수 있습니다. 여기서 복잡해지는 점은 Starlark 파일에서 새 저장소 규칙을 정의할 수 있으며, 이 규칙은 새 Starlark 코드를 로드하는 데 사용할 수 있고, 이 코드는 새 저장소 규칙을 정의하는 데 사용할 수 있습니다.

이 사례를 처리하기 위해 WorkspaceFileFunction의 WORKSPACE 파일 파싱은 load() 문이 지정하는 청크로 분할됩니다. 청크 색인은 WorkspaceFileKey.getIndex()로 표시되며 색인 X까지 WorkspaceFileFunction를 계산한다는 것은 X번째 load() 문이 나올 때까지 평가한다는 의미입니다.

저장소 가져오기

저장소의 코드를 Bazel에서 사용할 수 있으려면 먼저 가져와야 합니다. 이렇게 하면 Bazel이 $OUTPUT_BASE/external/<repository name> 아래에 디렉터리를 만듭니다.

저장소 가져오기는 다음 단계로 진행됩니다.

  1. PackageLookupFunction는 저장소가 필요하다는 것을 인식하고 RepositoryName를 SkyKey로 만들어 RepositoryLoaderFunction를 호출합니다.
  2. RepositoryLoaderFunction가 불분명한 이유로 요청을 RepositoryDelegatorFunction에 전달합니다 (코드에 따르면 Skyframe이 다시 시작될 때 항목을 다시 다운로드하지 않기 위해서라고 하지만 확실한 근거는 아닙니다).
  3. RepositoryDelegatorFunction는 요청된 저장소가 발견될 때까지 WORKSPACE 파일의 청크를 반복하여 가져오도록 요청된 저장소 규칙을 찾습니다.
  4. 저장소 가져오기를 구현하는 적절한 RepositoryFunction가 찾을 수 있습니다. 저장소의 Starlark 구현이거나 Java로 구현된 저장소의 하드코딩된 맵입니다.

저장소 가져오기가 매우 비용이 많이 들 수 있으므로 다양한 캐싱 레이어가 있습니다.

  1. 다운로드된 파일의 캐시가 체크섬(RepositoryCache)으로 키가 지정됩니다. 이렇게 하려면 WORKSPACE 파일에서 체크섬을 사용할 수 있어야 하지만 어쨌든 견고성에 도움이 됩니다. 이는 실행 중인 워크스페이스 또는 출력 기반에 관계없이 동일한 워크스테이션의 모든 Bazel 서버 인스턴스에서 공유됩니다.
  2. 가져오기에 사용된 규칙의 체크섬이 포함된 '마커 파일'이 $OUTPUT_BASE/external 아래의 각 저장소에 작성됩니다. Bazel 서버가 다시 시작되었지만 체크섬이 변경되지 않으면 다시 가져오지 않습니다. 이는 RepositoryDelegatorFunction.DigestWriter에서 구현됩니다 .
  3. --distdir 명령줄 옵션은 다운로드할 아티팩트를 조회하는 데 사용되는 다른 캐시를 지정합니다. 이는 Bazel이 인터넷에서 무작위 항목을 가져와서는 안 되는 엔터프라이즈 설정에서 유용합니다. 이는 DownloadManager에서 구현합니다 .

저장소를 다운로드하면 저장소의 아티팩트가 소스 아티팩트로 취급됩니다. 이는 Bazel이 일반적으로 소스 아티팩트에서 stat()을 호출하여 최신 상태를 확인하고 이러한 아티팩트가 있는 저장소의 정의가 변경될 때도 무효화되기 때문에 문제가 됩니다. 따라서 외부 저장소의 아티팩트에 관한 FileStateValue는 외부 저장소에 종속되어야 합니다. 이 작업은 ExternalFilesHelper에서 처리합니다.

저장소 매핑

여러 저장소가 동일한 저장소에 종속되기를 원하지만 버전이 다를 수 있습니다 (이는 '다이아몬드 종속 항목 문제'의 한 예입니다). 예를 들어 빌드의 별도 저장소에 있는 두 바이너리가 Guava에 종속되려고 하면 둘 다 @guava//로 시작하는 라벨로 Guava를 참조하고 이는 서로 다른 버전의 Guava를 의미한다고 가정합니다.

따라서 Bazel을 사용하면 문자열 @guava//가 하나의 바이너리 저장소의 하나의 Guava 저장소 (예: @guava1//)를 참조하고 다른 바이너리 저장소의 다른 Guava 저장소 (예: @guava2//)를 참조하도록 외부 저장소 라벨을 다시 매핑할 수 있습니다.

또는 다이아몬드를 결합하는 데도 사용할 수 있습니다. 한 저장소가 @guava1//에 종속되고 다른 저장소가 @guava2//에 종속되는 경우 저장소 매핑을 사용하면 두 저장소를 모두 재매핑하여 표준 @guava// 저장소를 사용할 수 있습니다.

매핑은 WORKSPACE 파일에서 개별 저장소 정의의 repo_mapping 속성으로 지정됩니다. 그러면 Skyframe에 WorkspaceFileValue의 멤버로 표시되며 다음과 같이 연결됩니다.

  • Package.Builder.repositoryMapping: 패키지의 규칙에 있는 라벨 값 속성을 변환하는 데 사용됩니다. RuleClass.populateRuleAttributeValues()
  • 분석 단계에서 사용되는 Package.repositoryMapping (로드 단계에서 파싱되지 않는 $(location)와 같은 항목을 확인하기 위해 사용됨)
  • load() 문에서의 라벨 확인을 위한 BzlLoadFunction

JNI 비트

Bazel의 서버는 대부분 Java로 작성됩니다. Java가 자체적으로 실행할 수 없거나 구현 시 자체적으로 실행할 수 없었던 부분은 예외입니다. 이는 대부분 파일 시스템, 프로세스 제어, 기타 다양한 하위 수준 항목과의 상호작용으로 제한됩니다.

C++ 코드는 src/main/native 아래에 있으며 네이티브 메서드가 있는 Java 클래스는 다음과 같습니다.

  • NativePosixFiles 및 NativePosixFileSystem
  • ProcessUtils
  • WindowsFileOperations 및 WindowsFileProcesses
  • com.google.devtools.build.lib.platform

콘솔 출력

콘솔 출력을 내보내는 것은 간단한 것처럼 보이지만, 여러 프로세스를 실행 (때로는 원격으로)하고, 세분화된 캐싱을 사용하고, 멋지고 다채로운 터미널 출력을 얻고, 장기 실행 서버를 사용하는 것이 결합되면 간단하지 않게 됩니다.

클라이언트에서 RPC 호출이 들어오자마자 stdout 및 stderr용으로 두 개의 RpcOutputStream 인스턴스가 생성되어 여기에 출력된 데이터를 클라이언트로 전달합니다. 그런 다음 OutErr(stdout, stderr 쌍)로 래핑됩니다. 콘솔에 출력해야 하는 모든 항목은 이러한 스트림을 거칩니다. 그런 다음 이러한 스트림이 BlazeCommandDispatcher.execExclusively()에 전달됩니다.

출력은 기본적으로 ANSI 이스케이프 시퀀스로 출력됩니다. 이러한 옵션이 필요하지 않은 경우 (--color=no) AnsiStrippingOutputStream에 의해 제거됩니다. 또한 System.out 및 System.err가 이러한 출력 스트림으로 리디렉션됩니다. 이렇게 하면 디버깅 정보를 System.err.println()를 사용하여 출력할 수 있고 클라이언트의 터미널 출력(서버의 출력과 다름)에 계속 표시됩니다. 프로세스가 바이너리 출력 (예: bazel query --output=proto)을 생성하는 경우 stdout이 변경되지 않도록 주의합니다.

짧은 메시지 (오류, 경고 등)는 EventHandler 인터페이스를 통해 표현됩니다. 특히 이는 EventBus에 게시하는 내용과 다릅니다 (혼란스러울 수 있음). 각 Event에는 EventKind (오류, 경고, 정보 등)가 있으며 Location (이벤트가 발생한 소스 코드의 위치)가 있을 수 있습니다.

일부 EventHandler 구현은 수신한 이벤트를 저장합니다. 이는 캐시된 구성된 타겟에서 내보낸 경고와 같이 다양한 종류의 캐시된 처리로 인해 발생한 정보를 UI에 재생하는 데 사용됩니다.

일부 EventHandler는 결국 이벤트 버스로 이동하는 이벤트를 게시할 수도 있습니다 (일반 Event는 여기에 표시되지 _않음_). 이는 ExtendedEventHandler의 구현이며 기본적으로 캐시된 EventBus 이벤트를 재생하는 데 사용됩니다. 이러한 EventBus 이벤트는 모두 Postable를 구현하지만 EventBus에 게시되는 모든 항목이 이 인터페이스를 구현하는 것은 아닙니다. ExtendedEventHandler에 의해 캐시된 항목만 구현합니다. (그러는 것이 좋으며 대부분의 항목이 구현하지만 강제되지는 않습니다.)

터미널 출력은 Bazel에서 실행하는 모든 멋진 출력 형식 지정 및 진행률 보고를 담당하는 UiEventHandler를 통해 대부분 내보내집니다. 입력은 두 가지가 있습니다.

  • 이벤트 버스
  • Reporter를 통해 파이프된 이벤트 스트림

명령 실행 메커니즘 (예: Bazel의 나머지 부분)이 클라이언트의 RPC 스트림에 연결하는 유일한 직접 연결은 이러한 스트림에 직접 액세스할 수 있는 Reporter.getOutErr()를 통한 연결입니다. 명령어에서 가능한 대량의 바이너리 데이터 (예: bazel query)를 덤프해야 하는 경우에만 사용됩니다.

Bazel 프로파일링

Bazel은 빠릅니다. Bazel도 느립니다. 빌드가 견딜 수 있는 수준까지 커지는 경향이 있기 때문입니다. 이러한 이유로 Bazel에는 빌드 및 Bazel 자체를 프로파일링하는 데 사용할 수 있는 프로파일러가 포함되어 있습니다. 적절하게 이름이 지정된 Profiler 클래스에 구현됩니다. 기본적으로 사용 설정되어 있지만 오버헤드를 허용하도록 요약된 데이터만 기록합니다. 명령줄 --record_full_profiler_data를 사용하면 가능한 모든 것을 기록할 수 있습니다.

Chrome 프로파일러 형식으로 프로필을 내보냅니다. Chrome에서 보는 것이 가장 좋습니다. 데이터 모델은 작업 스택의 모델입니다. 작업을 시작하고 종료할 수 있으며 서로 깔끔하게 중첩되어야 합니다. 각 Java 스레드는 자체 작업 스택을 가져옵니다. TODO: 작업 및 연속 전달 스타일과는 어떻게 작동하나요?

프로파일러는 BlazeRuntime.initProfiler() 및 BlazeRuntime.afterCommand()에서 각각 시작 및 중지되며, 모든 항목을 프로파일링할 수 있도록 최대한 오래 실행되도록 시도합니다. 프로필에 항목을 추가하려면 Profiler.instance().profile()를 호출합니다. Closeable를 반환하며 폐쇄는 작업의 종료를 나타냅니다. try-with-resources 문이 있는 경우에 사용하는 것이 가장 좋습니다.

MemoryProfiler에서도 초보적인 메모리 프로파일링을 실행합니다. 또한 항상 사용 설정되어 있으며 대부분 최대 힙 크기와 GC 동작을 기록합니다.

Bazel 테스트

Bazel에는 두 가지 기본 테스트 유형이 있습니다. Bazel을 '블랙박스'로 관찰하는 테스트와 분석 단계만 실행하는 테스트입니다. 전자를 '통합 테스트'라고 부르고 후자를 '단위 테스트'라고 부르지만, 통합 테스트에 비해 통합이 덜 된 통합 테스트에 가깝습니다. 필요한 경우 실제 단위 테스트도 있습니다.

통합 테스트에는 두 가지 유형이 있습니다.

  1. src/test/shell에서 매우 정교한 bash 테스트 프레임워크를 사용하여 구현된 테스트
  2. Java로 구현된 것 이는 BuildIntegrationTestCase의 서브클래스로 구현됩니다.

BuildIntegrationTestCase는 대부분의 테스트 시나리오에 적합하므로 선호되는 통합 테스트 프레임워크입니다. Java 프레임워크이므로 디버깅 가능성과 여러 일반적인 개발 도구와의 원활한 통합을 제공합니다. Bazel 저장소에는 BuildIntegrationTestCase 클래스의 예가 많이 있습니다.

분석 테스트는 BuildViewTestCase의 서브클래스로 구현됩니다. BUILD 파일을 쓰는 데 사용할 수 있는 스크래치 파일 시스템이 있습니다. 그러면 다양한 도우미 메서드가 구성된 타겟을 요청하고, 구성을 변경하고, 분석 결과에 관한 다양한 사항을 어설션할 수 있습니다.