既存のアプリケーションをコンテナ化したら、CircleCIで回していたテストがコケていたので、その修正の記録です。
CircleCIの設定を書く
CircleCIの設定をいじるのは久しぶりだったので、以下のようなことも調べつつやっていたのですが、結局ハマってだいぶ時間をとられてしまいました。
- dockerキー配下のimageは、先頭のコンテナイメージが、stepsのコマンド実行に使われる
- コンテナから別コンテナを呼ぶ際の名前を変えたければ、nameキーを使う
- ポートフォワードの指定はconfig.ymlからできない
- dockerhubのdockerはalpineだったので、ソフトウェアのインストールは
apk add
テスト用イメージの作成（ハマったとこ）
何にハマっていたのかと言うと、大きくは2つで
- コンテナから他のコンテナに繋げない
- コンテナの状態を育てていけない
というところでした。
1. コンテナから他のコンテナに繋げない
こういうことをしたかった、という実行環境のイメージは以下のような感じでした。
各種stepを実行するためのコンテナイメージ（docker）がCircleCI上で動作していて、
そのコンテナの中で、アプリケーション（python）用のコンテナがビルドされ、起動後にテストが実行される・・・みたいな。
つまり、テストアプリケーションのコンテナを、Docker in Dockerの状態にしたかったのです。
そして、アプリケーションのコンテナから参照するテスト用のコンテナ（MySQL、Azurite）は、実行用コンテナと同列で起動させれば、ローカルのDocker Composeと同じ状態にできるなって思ったのですが、
結論から言うとこれはできないそうです。
そうとは知らず、色々試してはみたので、結果だけは残しておこうかなって・・・
privilegedオプションでできること・できないこと
まずは、stepsの実行イメージをdockerベースのコンテナにし、そのコンテナでビルドしたイメージをprivilegedオプションを付けて起動させて、やりたいことができるか確認しました。
build:
docker:
- image: docker:git
- image: arafato/azurite:latest
name: azurite
...
steps:
- checkout
- setup_remote_docker
- run:
name: Build image
command: docker build -t hoge/hoge-app .
- run:
name: Run image
command: docker run -td --privileged --name hoge-app hoge/hoge-app bash
この状態で、それぞれのコンテナからできたことと、できなかったことは以下になりました。
dockerイメージのコンテナを実行コンテナ、その上でビルドしたイメージをアプリケーションとして書いています。
できた
- 実行コンテナからAzuriteのイメージ名でcurl接続
できなかった
- アプリケーションからAzuriteへのcurl接続（ホスト名解決できない）
- 実行コンテナからlocalhostでAzuriteにcurl接続（ホスト名をazuriteにするとできる）
ちなみにAzuriteのホスト名解決を行うためには、dockerキーのvalue値でnameの指定も必要です（image名と同じだとしても）。
２. コンテナの状態を育てていけない
次に、アプリケーションのコンテナでテストを実行できるようにするには、
Dockerfileで実行される処理以外にも処理を実行する必要があったので、コンテナの状態を育てていく必要がありました。
そこで、docker run時にコマンドとしてpipenv sync --devを渡していたわけですが、これがなぜか実行されなかったため、
run時はDockerfile上のCMDを動作させないためにbashを渡し、別のステップでdocker execで実施するようにするしかありませんでした。
また、docker execでpipenv sync --devを実行したステップの後、pipenv run lintなどをexecに渡して実行すると
「mypyなんぞない」
と言われたので、、、execにコマンドを渡す際はbash -cを使って渡すようにしました。
- run:
name: Install dependencies
command: docker exec hoge-app bash -c 'pipenv sync --dev'
- run:
name: Lint code
command: docker exec hoge-app bash -c 'pipenv run lint 2>&1' | tee lint.log
- run:
name: Test hoge-app
command: docker exec hoge-app bash -c 'pipenv run test 2>&1' | tee test.log
- store_artifacts:
path: lint.log
- store_artifacts:
path: test.log
とりあえずこうすると、Docker in DockerでもLintとTestの実行はできたのですが、名前解決がうまく行かないことなどから肝心のテストがコケるので、サポート問い合わせした結果、やりたいような構成はできないという回答をもらったわけです。
以下にも直接通信ができないと書いてあるので、そのとおりだと言う話でもあるのですが。。。
最終的なconfig.yml
というわけで、最終的には実行コンテナをDockerfileのベースイメージにし、Dockerfileに書いている処理をstepsに記載するという、普通のやり方で対応しました。
以下は最終的なconfig.ymlを適当に抜粋したものになります。
version: 2
jobs:
build:
docker:
- image: circleci/python:3.6.6
name: hoge-app
environment:
DB_HOST: test-db
- image: circleci/mysql:5.7-ram
name: test-db
environment:
MYSQL_USER: root
MYSQL_ALLOW_EMPTY_PASSWORD: yes
MYSQL_TCP_PORT: 3306
- image: redis
name: redis
- image: arafato/azurite:latest
name: azurite
working_directory: ~/hoge-app
environment:
LANG: ja_JP.UTF-8
LC_ALL: ja_JP.UTF-8
LANGUAGE: ja_JP:ja
steps:
- checkout
- setup_remote_docker
- run:
name: Set locales
command: sudo localedef -f UTF-8 -i ja_JP ja_JP.UTF-8
- run:
name: Update submodule
command: git submodule update --recursive --init
- run:
name: Install dependencies
command: |
sudo apt-get update && \
sudo apt-get install -y curl build-essential \
mecab mecab-ipadic libmecab-dev
- run:
name: Install dependencies
command: pipenv sync --dev
- run:
name: Setup azurite filedata
command: curl -v -X PUT -H 'x-ms-version:2017-11-09' http://azurite:10000/azureacount/filedata?restype=container
- run:
name: Lint code
command: pipenv run lint 2>&1 | tee lint.log
- run:
name: Test hoge-app
command: pipenv run test 2>&1 | tee test.log
- store_artifacts:
path: lint.log
- store_artifacts:
path: test.log
