由于国内网络问题，因此对于kubeflow源码安装的过程过于不友好。这里将kubeflow官方源码拉了下来，然后对代码中所有部署用到的的gcr.io镜像进行了阿里云替换。 官方源代码地址：https://github.com/kubeflow/manifests.git
这里我没有使用release版本，直接pull的源代码，时间为2022/1/17日。
做国内镜像很辛苦，如果我的工作对你有用，大家都知道该怎么办吧。
- kubernetes 1.21.8。这里注意下，我在编译的时候，发现kubeflow大量使用了k8s测试版的API，目前要求k8s版本需要介于[1.17, 1.22)。
- kustomize(3.x)，我用的k8s自带的kustomize，不要用4.x的kustomize，官方说有bug。
- nvidia驱动，k8s nvidia插件yaml。
- 存储sc，不管是local还是nfs，都需要提前创建好并指定为默认存储sc。
按照官方的一键安装或分步安装即可。由于我对每个模块均进行了调试，因此我是用的单步安装。需要提出的是，代码有可能有bug，如在执行过程中，出现
error: unable to recognize "STDIN": no matches for kind "Image" in version "caching.internal.knative.dev/v1alpha1"
这是knative安装过程中出现的bug，根据网上提供的解决方案，执行
kubectl apply -f ./patch/knative_serving_releases_download_v0.17.1_serving-crds.yaml
如出现
error: unable to recognize "STDIN": no matches for kind "CompositeController" in version "metacontroller.k8s.io/v1alpha1"
这个问题是在启动pipeline组件时文件顺序执行太快了，没有等待CRD服务创建好就开始进行引用，把pipeline创建组件的明令再执行一遍。
一键安装命令
while ! kubectl kustomize example | kubectl apply -f -; do echo "Retrying to apply resources"; sleep 10; done
分步安装命令参考官方
按照官方安装方式，安装好后会出现jupyter启动不起来，PVC无法创建等问题，查看日志会提示认证权限不够，会提示如下错误
Could not find CSRF cookie XSRF-TOKEN in the request. http://xx.xx.x.xxx/jupyter/api/namespaces/kubeflow-user/notebooks
其根本原因是每个component中启用了https认证，但是istio却没有启用https网关。因此解决思路有两种(下面方法二者择其一即可)
- 关闭每个component中的https认证，尤其是在调试时
此方法有两种方式：
a. 在安装之前，可参考该issue进行修改，关闭每个模块的https鉴权
b. 如果已经启动服务，则可以直接kubectl edit deploy xxx -n kubeflow进行修改，修改后再进行kubectl rollout restart deploy xxx -n kubeflow即可
- 启用istio https网关（私有化部署适用，公有云需要https证书）
为了直接使用，在此将istio网关设为https。可以参考crud-web-apps 1.3 Could not find CSRF cookie XSRF-TOKEN in the request · Issue #5803 · kubeflow/kubeflow (github.com)
其中，Certificate文件位于./patch/gateways-issuer.yaml，
然后执行下面代码
$ kubectl edit gateway/kubeflow-gateway -n kubeflow
# Please edit the object below. Lines beginning with a '#' will be ignored,
# and an empty file will abort the edit. If an error occurs while saving this file will be
# reopened with the relevant failures.
#
apiVersion: networking.istio.io/v1beta1
kind: Gateway
metadata:
annotations:
kubectl.kubernetes.io/last-applied-configuration: |
{"apiVersion":"networking.istio.io/v1alpha3","kind":"Gateway","metadata":{"annotations":{},"name":"kubeflow-gateway","namespace":"kubeflow"},"spec":{"selector":{"istio":"ingressgateway"},"servers":[{"hosts":["*"],"port":{"name":"http","number":80,"protocol":"HTTP"}}]}}
creationTimestamp: ""
generation:
name: kubeflow-gateway
namespace: kubeflow
resourceVersion: ""
uid:
spec:
selector:
istio: ingressgateway
servers:
- hosts:
- '*'
port:
name: http
number: 80
protocol: HTTP
# Add your codes here, upgrade HTTP to HTTPS
tls:
httpsRedirect: true
- hosts:
- '*'
port:
name: https
number: 443
protocol: HTTPS
tls:
credentialName: kubeflow-ingressgateway-certs
mode: SIMPLE
QQ 744483644