使用亚马逊云科技服务器进行深度学习AI项目的线上部署 什么是Mutual AI?Mutual AI是一个致力于在人工智能新时代提供中文交互式科普的开源项目。项目目标:解决当前人工智能领域中机器学习和深度学习算法学习过程中的理论知识枯燥难懂的问题。解决初学者在实际操作过程中遇到的"黑匣子问题"。开源地址：YinHan-Zhang/Mutual-AI: Mutal Artificial Intelligence Project for novicies friendly (github.com)使用亚马逊云科技服务器进行线上搭建亚马逊云科技（Amazon Web Services，AWS）是全球领先的云计算服务提供商之一，为个人、企业和组织提供可靠的、灵活的和安全的云计算平台。其中，弹性云服务器Amazon EC2作为AWS的核心服务之一，提供了丰富的实例类型和配置选项，适用于各种不同规模和类型的应用需求本例程采用亚马逊云科技的弹性云服务器Amazon EC2进行部署了解更多购买信息：云主机_云服务器_Amazon EC2云虚拟服务器-亚马逊云科技 (amazonaws.cn)Amazon EC2提供安全、弹性、高可用的云服务器，随时启动，无需预先付费。它提供多种实例类型，包括通用型实例、计算优化实例、内存优化实例和存储优化实例，适用于各种不同的应用需求。Amazon EC2提供了以下不同类型的实例：`通用型实例：提供了平衡的计算、内存和网络资源，适用于大多数工作负载。计算优化实例：专注于提供高性能计算能力，适用于需要处理大量计算任务的应用，比如机器学习和高性能计算（HPC）。内存优化实例：针对内存密集型应用，提供大量的内存资源，能够支持处理大规模数据和内存密集型工作负载。存储优化实例：专注于提供高性能的存储系统，适用于需要处理大量存储和数据库操作的应用。除了常规实例外，亚马逊云还提供了加速计算实例，例如P3型实例，具备强大的处理能力和高速网络传输性能。本项目就采用了其中的P3型，配置如下：{callout color="#f0ad4e"}至多96 vCPU，768 GiB 内存多达 8 个 NVIDIA Tesla V100 GPU，各配有 5120 个 CUDA 核心和 640 个 Tensor 核心支持通过 NVLink 进行对等 GPU 通信提供高达 100Gbps 的聚合网络带宽{/callout}得益于AWS（亚马逊云）的高性能加速计算实例，可以使如此复杂的深度学习模型部署在线上部署运行环境准备本项目需要Python环境进行部署，其中Python3.9的编译安装教程请见：Linux编译安装Python3.9——以CentOS7为例 - MoyiTech的小站-IT博客-Maker BLOG (9998k.cn)其余模块已保存在requirements.txt，可使用pip进行快速安装Python 3.9Fastapi >=0.95.1Pillow >=9.4.0Torchvision >=0.15.0Torch >=2.0.0Torchaudio >=0.0.0Python-MultipartUvicorntensorflow >=2.12.0程序运行详细步骤克隆项目到本地git clone https://github.com/YinHan-Zhang/Mutual-AI使用pip安装Python依赖文件pip install -r requirements到项目文件夹，使用 uvicorn 运行程序uvicorn main:app搭建成功啦！打开网址 http://IP:8000/即可访问