Docker

【Docker】コンテナ上にHadoop + Spark実行環境を構築する

+ 案件でHadoopを扱う事になりそうなので、勉強のためにDockerコンテナでHadoop + Spark環境を構築してみました。擬似分散モードでの起動を想定しています。 ソースコードはgit hubに上げてあります。 github.com Hadoopのインストール 公式サイトからファイ…

【AWS】Ansible & KanikoでECRにDockerイメージをpushする

Kubernetesクラスタ上でDockerイメージをビルド&プッシュするためのツール「Kaniko」について、仕様を調査したのでメモ。 Kanikoとは 実体はKubernetesクラスタ上でDockerイメージをビルド、プッシュを行うためのOSSのDockerイメージです。 Googleが開発して…

【AWS】ansibleでECRにDockerイメージをpushして、EKS環境にデプロイする

目的 EC2から、AWS EKSにansibleでデプロイしてみる AWS ECRにDockerイメージをプッシュする とりあえず動かしてみて、各ツールの使い方を学習する 前提条件 作業する環境にPythonとAnsible、kubectlのインストールが必要 aws eks update-kubeconfig ...でco…

【Docker】PythonのAWS LambdaLayerをDockerで作成する

AWS LambdaのLayerモジュールをzip化するまでの処理をDockerで行えるようにしたので、その方法をメモ。 coin-look.pages.dev Dockerfile amazonlinuxのイメージを利用することで、EC2などを用意せずにx86_64のアーキテクチャに対応させます。 Pythonのバージ…