无限白嫖高性能8H32G云GPU部署大模型

今天给大家介绍一个白嫖的GPU服务器，每个月免费50000时长，分配的是一台16GB显存、8 + TFlops SP、8核CPU、内存32G的一台ubuntu20.04的机器，提供在线IDE进行终端操作，可以用来部署大模型服务，运行ollma、dify、chatglm等等，以及开发调试训练一些模型等等，纯纯免费，可以开多台机器，反正每个月5w分钟时长，用完才付费，大家可以拿来玩玩部署下大模型。

说明

使用的腾讯云高性能应用服务 HAI，唯一不足的是每日凌晨2点容器空间自动关机，内容不会丢失，手动启动即可：

配置如下：

GPU信息：
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 525.105.17   Driver Version: 525.105.17   CUDA Version: 12.0     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  Tesla T4            On   | 00000000:00:09.0 Off |                    0 |
| N/A   30C    P8     9W /  70W |      4MiB / 15360MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+
系统信息查询
-------------
主机名:       VM-0-110-ubuntu
系统版本:     Ubuntu 20.04.6 LTS
Linux版本:    5.4.0-166-generic
-------------
CPU架构:      x86_64
CPU型号:      Intel(R) Xeon(R) Platinum 8255C CPU @ 2.50GHz
CPU核心数:    8
CPU频率:      2.5 GHz
-------------
CPU占用:      1%
系统负载:     0.00, 0.04, 0.04
物理内存:     1204.77/31331.91 MB (3.85%)
虚拟内存:     0MB/0MB (0%)
硬盘占用:     30G/49G (63%)
-------------
总接收:       89.25 MB
总发送:       80.27 MB
-------------
网络算法:     cubic fq_codel
-------------
运营商:       AS132203 Tencent Building Kejizhongyi Avenue
IPv4地址:     49.xx.xx.xx144
DNS地址:      127.0.0.53 
地理位置:     US Santa Clara
系统时间:      2024-11-21 11:43 AM
-------------
运行时长:     11时 20分

食用步骤

1、点此打开链接

2、打开后登录腾讯云账号，没有的话注册一下即可，登录之后选择左侧导航栏高性能工作空间AI->新建->选择基础型，如下图。

3、随便输入一个空间名称，然后选择应用模版，可以选择自己需要的，选择了之后可以自己进去卸载或则安装其他环境。

4、然后点就创建的应用运行进入工作空间，顶部终端-新建终端，然后就可以开始娱乐的玩耍了。

5、如果你需要部署一些服务，可以选择使用内网穿透等工具直接暴露出来，我目前使用ollma了qwen2:7b模型然后对接one-api，推理非常的丝滑，需要的话可以查看我前面写的这个文章《使用 Ollama 自建大模型并对接第三方平台二次分发盈利》，下面看我的效果。

总结

本文给大家分享了白嫖腾讯云高性能GPU服务，可以部署一些自己测试的项目等，唯一不足的是每晚2点会进行自动关机，也是为了防止浪费资源吧，免费的5w分钟时长只创建一个空间够使用1个月了，每个月重置相当于白嫖，不知道多久收费，感兴趣的可以去注册使用下。