議程簡介
可觀察性對於金融業內的 AI 科學家帶來的好處與挑戰
容器化(Containerization)幾乎已經成為現代服務部署的標準配備了。我們看到所有主要的雲供應商都支持通用容器編排框架,例如 Kubernetes、OpenShift。雖然金融業多半使用的服務都是受到限制的,無法完整得到開放源碼的好處,但考量在 AI/ML 的發展上,我們還是盡可能地在封閉的環境裡選擇開放的解決方案。而 Kubernetes 上也持續出現了許多 ML 的整合方案。這意味著科學家/工程師可以輕鬆地(?)將模型部署為雲平台上的容器並對其進行擴展和縮減。但,真的這麼美好嗎?
1. 以一個金融業內的 AI 科學家/工程師,在由 AI 核心為基礎所提供的服務,應該要以什麼樣的態度來與同伴們合作。
2. 在使用託管或是受限制的服務中想達成可觀察性(Observability)的技術挑戰。
3. 如何在非同步的分散式架構(如兩組人所維護的不同組 k8s cluster)中達成可觀察性。
4. 可觀察性如何能協助我們在服務突然出現異常時,儘速找到問題?
中階 中文