步骤/目录:
0.raid介绍
1.背景介绍
2.r730xd的详细参数与扩展
3.esxi系统的安装
4.esxi虚拟机安装TrueNAS
5.esxi虚拟机安装Win10
6.esxi虚拟机安装Ubuntu
7.其它

本文首发于个人博客https://lisper517.top/index.php/archives/1562/,转载请注明出处。
本文的目的是使用r730xd组建NAS。
本文写作日期为2024年7月14日,参考文章将会在正文中列出。

0.raid介绍

raid技术可以将多块物理硬盘合并成一个存储单位使用,比如说在电脑上显示为1个盘符。raid最大的作用是提升安全性或者读写性能。常用的raid如下(来自于 这篇文章 ):

RAID 0:条带化(数据分块)但没有冗余,提供较高的读写性能。
RAID 1:镜像,数据完全复制到另一个驱动器,提供容错能力。
RAID 5:条带化加分布式奇偶校验,提供数据冗余和读取性能。
RAID 6:类似于RAID 5,但提供更高级别的容错能力。
RAID 10:RAID 1+0,将RAID 1镜像组合成RAID 0条带化,提供较高的容错能力和读写性能。
RAID 50:RAID 5组合成RAID 0,提供较高的性能和容错能力。
RAID 60:RAID 6组合成RAID 0,提供更高级别的性能和容错能力。

总的来说,追求简单就raid1(至少2块硬盘),追求速度就raid10(至少4块硬盘),raid1与raid10都只能使用一半的硬盘空间。想提高读取性能、空间利用率、容错率就raid50、raid60。另外需要注意的是,大量数据时,raid5硬盘恢复的失败率会上升。

软硬raid的区别:
(1)软raid不需要专门的硬件设备,可以在不同的操作系统中读写数据;缺点是消耗CPU、内存,高负载时性能不如硬raid。
(2)硬raid需要专门的阵列卡,读写性能高;缺点是必须特定的硬件才能读写数据。
另外一个重要的区别是,用软raid时硬盘无法作为系统盘,只有硬raid才能把系统盘也组raid。

IT(initiator target)即直通模式,阵列卡只作为总线适配器,把硬盘直接交给操作系统处理,方便做软raid。一般是便宜的阵列卡支持IT模式。

1.背景介绍

在笔者之前的文章中,曾经用 Ubuntu + samba 的方式组建NAS,使用的硬件为 2盘位硬盘座 + 树莓派 + UPS (见 树莓派+Samba+frp搭建NAS(网络云存储) ),后来将树莓派改成了旧笔记本。这套配置的主要问题有:
(1)树莓派的CPU不够强,旧笔记本的CPU可以、但散热不行,所以都无法运行一些其它占资源的东西,比如模拟器多开。
(2)扩展性的限制,硬盘座需要通过USB3.0接到树莓派或者笔记本上,想再加硬盘就要再买硬盘座,但USB接口是比较少的。如果换大型硬盘柜则USB接口又容易发热。
(3)达不到AIO的要求。AIO即all in one,用一台主机实现NAS、远程云游戏主机、网页服务器等多种功能,树莓派性能孱弱,旧笔记本又没有雷电接口(不能外接显卡)。

综合下来,最好的选择是换一台淘汰的存储服务器,能插显卡的。买旧服务器唯二的缺点是:风扇噪音大(一般在60-100dB),耗电高。经过一系列比对,笔者最终在黄鱼上自提购买了Dell的r730xd,原因如下:
(0)github上有针对Dell服务器的风扇调节工具,可以把风扇噪音降低到40dB,放在卧室也不影响入睡。作为对比,耳语大概在30-35dB。
(1)耗电量,与卖家当面沟通,双CPU(2630L)、12硬盘,正常跑一些服务的情况下,功率为200W,不关机的话每月144度电,可以接受(按0.5计算,约72元/月,和便宜的云服务器差不多)。
(2)保有量大,相关资料多,问题好解决,而且Dell的手册也比较详细。
(3)工业设计成熟,看起来有一种信息技术革命的美感,赏心悦目。

r730xd在2023年左右经过了一些炒作,价格略上涨,涨价前准系统据说只要¥650。笔者购买时¥1550,胜在卖家已经调好了,包括2颗2630L的CPU,4根2133频率的16GB、ECC内存,1张双千兆电口+双万兆光口的网卡(intel X520/I350),H330 mini阵列卡,1个750W电源,3张PCIe扩展卡,iDrac已授权,另外¥400收了卖家的单风扇1050ti。如果不是自提,最好在发货前让卖家拍照,因为对于准系统的定义不太一样。另外自购了2690v4的CPU(¥330),两个千兆光转电模块(¥150),750W电源1个(¥62),额外一张H330 mini卡备用(¥50,后来发现自带的H330 mini已经刷了直通模式,就买了个没刷直通的),硬盘用东芝的N300-16T(618活动¥1889)。

2.r730xd的详细参数与扩展

关于r730xd的详细介绍,见 参考文章一参考文章二 ,实物介绍见 b站视频 ,官方手册见 r730xd官方手册 。笔者挑一些重点说:

(1)存储,r730xd有几个版本,前面板可以放12个3.5英寸硬盘或者24个2.5寸,后面板有2个2.5寸盘位。内部可以扩展出2或4或6个3.5寸盘位(也可能是2.5寸?),但是散热不佳、需要风扇拉满。所以家用一般就是12个3.5寸盘位+后面板2个2.5寸。笔者本打算2个2.5寸用SSD,组RAID1装ESXI和其它系统镜像,但是发现阵列卡只连到了前面板,那么就需要1个能接PCIe的阵列卡 + mini SAS 8643连接线,再分线到后面板,比较麻烦(见 b站视频 );剩下的所有3.5寸组RAID1装一般文件,因为对读取速率要求不高,搞RAID10之类的太复杂了(单纯组raid1,一块硬盘坏了,把好的硬盘拿下来就能读,不需要花时间恢复数据,还可能恢复失败)。

(2)内存,24条内存插槽,最高支持2400频率的DDR4,3072GB内存容量(24*128GB)。但是注意V4的CPU才能支持2400,V3的CPU最高只有2133。E5的CPU都很便宜,完全没必要省这个钱。另外,插内存时有讲究,单CPU与双CPU也有区别,详见 这篇文章 。简要来说,用同规格的内存,大小可以不同。如果单CPU,就按A1、A2、A3……顺序插;如果双CPU,就按A1、B1、A2、B2……插(标号在内存插槽旁边)。

(3)CPU,首选E5-2640 V4,追求更高的就上E5-2690 V4。

(4)阵列卡,可用H330 MINI、H730 MINI、H730P MINI,或者通过提升卡的PCIe装其它支持PCIe的阵列卡。数字越大越贵,只有H330是没有电池、缓存的,但是H330支持直通模式(需要自己刷固件,见 b站视频 )。阵列卡的作用是组raid。

(5)网卡,可用博通BCM5720(四口千兆)、Intel 99GTM(双千兆I350电口+双万兆X520电口)、Intel C63DV(双千兆I350电口+双万兆X520光口),其它还有很多。

(6)idrac,即Dell的ipmi。ipmi是服务器的一种功能,通电后ipmi就会打开,然后可以通过ipmi远程开关机或管理服务器。大部分r730xd的idrac都是已注册的enterprise版,如果未注册就去tb花80激活一下。

(7)提升卡,可插3张raiser提升卡进行扩展,提供额外的x8、x16的PCIe槽,可装显卡、网卡等。

(8)显卡,装在提升卡上(官方论坛说不支持显卡,其实是可以装的)。如果买r730,能装2块大显卡,最大可以 32*4*12cm(最多同时装4个单宽显卡或2个双宽显卡);r730xd则稍逊一筹,最多3个单宽显卡或1个双宽显卡。另外需要注意显卡是否需要额外供电,提升卡2、3都可以为显卡供电,最大可支持2张300W显卡(用Tesla显卡还要用第三方转接线,因为线序不同)。安装显卡可参考 b站视频

(9)电源,有495W、750W、1100W三种规格。可以装1或2个电源,双电源会稍微增加功率,但1个电源坏了可迅速切换到另一个电源(需要设置电源设备冗余,2个电源必须相同)。电源的风扇偶尔会突然开启3秒左右,这是怕服务器的风扇不足以给电源散热而设置的策略,是正常的。

(10)风扇,共有6个,适配的比较多。

(11)vFlash,r730xd的在后面板的2.5寸盘位上方。作用是插入SD卡,在系统挂了等极端情况下从SD卡引导启动。这个对于普通家用的意义不大。

3.esxi系统的安装

参考了 b站视频

(1)准备工作

1)在第一次安装系统前,如果你不知道服务器idrac的ip地址,则需要配一台VGA接口的显示器(或者VGA转HDMI线。但是VGA转HDMI线有时候用不了,建议直接买一台小的VGA接口显示器和VGA线),然后先设置后面的静态ip,再从网页访问idrac进行剩余的设置。
2)下载驱动等文件,到 Dell官网 下载针对r730xd的一些驱动文件,包括idrac(文章写作时最新是2.86.86.86),ESXI(7.0 U3,注意选择下载iso格式),BIOS(2.19.0)。其实只下idrac和ESXI就行了,其它东西可以在后面一键更新。
3)登录idrac(注意是 https://idrac的IP ),默认账号密码为root:calvin,或者问卖家。在 idrac设置 - 网络 里,将IPv4、v6打开,都启用DHCP,然后在路由器里设置静态ipv4地址。你也可以在idrac里设置静态ip,但笔者觉得在路由器里统一管理更方便。
4)更新idrac,在 idrac设置 - 更新与回滚 里,使用刚才下载的最新版idrac更新(需要注意的是,如果你的idrac版本过旧,则可能需要逐个版本更新idrac)。
5)降低风扇噪音,到 github 下载最新版的DellEmcFansController。目前是1.0.2,甚至可以对每个风扇分别调速。一般设置到25%就比较合适。
6)idrac的其它设置,见原视频。主要是 idrac设置 - 网络 里的几项:

启用NIC-勾选
NIC选择-专用
自动协商-打开
启用 LAN 上的 IPMI-勾选
信道权限级别限制-管理员
启用 VLAN ID-不勾选
在 idrac设置 - 用户验证 里,更改root密码
在 服务器 - 虚拟控制台 里,把 插件类型 选择为 HTML5

7)一键更新固件。在idrac的 服务器 里,启动虚拟控制台(服务器的远程桌面),并打开电源(打开/关闭电源),启动过程比较慢,不停按F10以进入Lifecycle Controller。选择 获取最新固件 - 网络共享(CIFS、NFS、HTTP或HTTPS服务器) - HTTPS 。笔者尝试时显示 “IP地址或共享名称无效” ,应该是被墙了,换个时间或者fq。
8)格式化硬盘。将准备使用的硬盘用diskgenius等软件格式化为ext4文件系统,装到r730xd上。

(2)安装esxi

在虚拟控制台的右上角有 虚拟介质 ,把刚才下的ESXI的iso镜像映射为CD/DVD,然后重启服务器,再次进入Lifecycle Controller。选择 OS部署 - 部署OS ,不组RAID(如果后面板作为系统盘且也想组raid,则需要多加一块能接PCIe的阵列卡,专门分到后面板), 引导模式BIOS可用的操作系统Any Other Operating System手动安装 ,介质选映射的ESXI。等待一段时间后,显示蓝底白字的Boot菜单,不需要操作,自动从ESXI引导,再等待ESXI加载。完成后,根据提示分别按Enter、F11,选择安装盘,键盘选择 US Default ,设置root密码(需要设置的复杂一点),最后F11确认。等待安装完成后,重启。可以注意到重启界面提示esxi在60天后需要购买许可证,这将在后续进行处理。

另外需要注意,esxi本身只有不到2GB,但是默认会占用系统盘的119GB作为虚拟闪存。如果你的系统盘比较小,在前文的b站视频中有介绍如何减少系统保留区。

(3)esxi的初步设置

服务器启动esxi系统后按F2,输入root密码进入设置,选择 Configure Management Network ,设置IPv4(用空格键选择),在这里设置静态IPv4(或者在路由器里设置静态IP也行),并打开IPv6、DHCPv6;在 Network Adapters 里选择管理esxi时用哪个网口。

退出到设置页首,进入 Troubleshooting Options ,开启SSH功能。

最后,通过此步设置的静态IPv4地址访问esxi网页端(同样是https)。在 主机 - 管理 - 许可 - 分配许可证 中解除esxi的60天试用限制,可以自行搜索,或尝试以下的许可证(建议就用vSphere ESXi 7.0 Enterprise Plus的4个许可证):

vSphere ESXi 7.0 Enterprise Plus
=======================================
JJ2WR-25L9P-H71A8-6J20P-C0K3F
HN2X0-0DH5M-M78Q1-780HH-CN214
JH09A-2YL84-M7EC8-FL0K2-3N2J2
JA0W8-AX216-08E19-A995H-1PHH2

=======================================
vCenter 7.0 Standard
104HH-D4343-07879-MV08K-2D2H2
410NA-DW28H-H74K1-ZK882-948L4
406DK-FWHEH-075K8-XAC06-0JH08

=======================================
VSAN 7.0 Enterprise Plus
HN0D8-AAJ1Q-07D00-6U924-CX224
50008-221DH-M7E99-A9CKM-A1030
HN0NH-62051-H75E9-P38RM-0H870

=======================================
vSphere 7 Enterprise Plus with Add-on for Kubernetes
J1608-4GJEQ-071L8-9VA0H-2MUK6
M10DH-8YL47-474L1-DV3U0-8H054
MM4MR-2G005-H7039-JVCAP-2RAL8

=======================================
VMware Horizon 7 Enterprise 100 CCU(s)
9H0AK-4Y192-H8JAR-0H7R0-1RZJM

笔者提前将硬盘格式化为ext4格式,将r730xd关机,插上硬盘并开机。在esxi的 存储 里,点进该硬盘, 新建数据存储 ,为硬盘取名, 使用全部磁盘VMFS6

(4)VMware Workstation Pro

可以从网页管理ESXI,也可以使用VWP、从桌面端管理ESXI。截至2024年04月27日,最新版本为17.5.2,官方下载地址为 VWP-17.5.2 。17大版本的激活码有:

MC60H-DWHD5-H80U9-6V85M-8280D
4A4RR-813DK-M81A9-4U35H-06KND
NZ4RR-FTK5H-H81C1-Q30QH-1V2LA
JU090-6039P-08409-8J0QH-2YR7F
4Y09U-AJK97-089Z0-A3054-83KLA

在网页端管理ESXI可能会有一些问题,笔者遇到的是无法给已经创建的虚拟机添加新标准硬盘(添加新标准硬盘后无法点击 保存 按钮)。网页端有问题的话可以改用桌面端试试。

4.esxi虚拟机安装TrueNAS

(1)TrueNAS的安装

这里参考了 这篇文章
首先到 TrueNAS官网 下载TrueNAS-core,这里选择最新的TrueNAS-13.0-U6.2。如果下的太慢也可以选择到 freenas镜像站 下载。如果都下的很慢就用IDM试试。

下载完成后,到esxi网页端,点击 存储 - 数据存储浏览器 ,进入esxi的文件管理器,新建文件夹并把TrueNAS镜像放到esxi里。进入 虚拟机 - 创建/注册虚拟机 ,如下选择:

创建新虚拟机
客户机操作系统系列 选择 其他
客户机操作系统版本 选择 FreeBSD 13或更高版本(64),因为用的TrueNAS 13
CPU选择6核,这个看自己
内存至少16GB
硬盘1设置50GB,这是装系统的
添加两块存储盘( 添加硬盘 - 新标准硬盘 )
CD/DVD驱动器1 选择 数据存储ISO文件 ,选择TrueNAS镜像
在 虚拟机选项 里,确认 引导选项 - 固件 是 BIOS

创建虚拟机后,在 虚拟机 里打开电源, Boot TrueNAS Installer ,选择 Install/Upgrade ,用空格键选择装系统的位置(50G硬盘),设置root密码, Boot via BIOS 。安装完成后选择 Reboot System ,在控制台界面会输出局域网ip,可浏览器访问、管理TrueNAS。记得在路由器里设置静态ip。

(2)TrueNAS的基础设置

System - General 里,把语言设置为 Simplified Chinese ,时区设置为 Asia/Shanghai
服务 里,把SMB打开,并勾选 自动运行 (开机自启动)。
系统 - 电子邮件 里,可以设置SMTP发送邮件。
系统 - 更新 里,把自动更新关闭。

存储 - 池 里,创建新池,可能会发现如下提示:

Warning: There are 2 disks available that have non-unique serial numbers. Non-unique serial numbers can be caused by a cabling issue and adding such disks to a pool can result in lost data.

这是因为笔者的H330Mini刷了直通模式(参考 proxmox论坛),但esxi没告诉TrueNAS硬盘的序列号。在esxi中如下操作(参考 truenas论坛 ):

关闭TrueNAS虚拟机,选择TrueNAS虚拟机,点击 编辑 - 虚拟机选项 - 高级 - 配置参数 的 编辑配置... ,添加一项键值对,即 disk.EnableUUID=true

然后重启TrueNAS,在 存储 - 磁盘 中选择对应磁盘并 编辑磁盘 ,可以看到其序列号。

另外需要提醒一下,如果阵列卡没刷直通模式,并且用阵列卡组raid,那么raid在阵列卡这一层就组好了(硬raid)。比如你组了硬raid1,TrueNAS就只能看到1个硬盘,只能用条带模式。如果没有非常非常高的硬盘吞吐量,建议还是在TrueNAS层面组软raid。

继续创建池。选择对应的硬盘后, 数据VDev 下方为 镜像Mirror ,即raid1。 条带Stripe 是raid0,如果有3块以上硬盘还可能显示RAIDZ1(raid5,一重奇偶校验,至少三块硬盘)、RAIDZ2(raid6,双重奇偶校验,至少四块硬盘)、RAIDZ3(TrueNAS独特的三重奇偶校验,至少五块硬盘)。创建时也会删除硬盘上原有内容。

中,选择刚才创建的池的右侧的附加菜单(竖着的3个点), 添加数据集 (数据集相当于文件夹)。在 账户 - 用户 里新建一个用户及配套的用户组,把该用户的主用户组改成刚新建的用户组。对刚才创建的数据集编辑权限,把 所有者 中的用户和群组改成刚新建的,并且 Apply UserApply Group ,其它选项如图:

把everyone删掉。最后打开windows的SMB共享:

即可在windows系统访问硬盘。

5.esxi虚拟机安装Win10

到微软官网下载工具,用该工具可以下载Win10的iso镜像,然后安装。
为了玩游戏,可以显卡直通,在esxi网页端, 管理 - 硬件 中筛选支持直通的设备,可以看到显卡,将其切换直通(勾选显卡会自动勾选Audio,应该是显卡带的声卡)。在Win10虚拟机创建时(或者创建后也可以修改),选择 添加其他设备 - PCI设备 ,把显卡和声卡都添加上;在内存中把划分给Win10的内存全部预留并锁定。编辑参数、添加键值对 hypervisor.cpuid.v0=FALSE ,作用是不让显卡知道是在虚拟环境中运行,一般用于独立显卡,否则用不了驱动。

另外,可以开启一个网口直通给Win10使用,以使用IPv6。

6.esxi虚拟机安装Ubuntu

这里选择的是Ubuntu-22.04 LTS,和上面的步骤差不多(参考 这篇文章 ),如果想给Ubuntu直通显卡,可参考 这篇文章 ,笔者尝试后无法装驱动。

安装完成后,Ubuntu会显示无法卸载 /cdrom 挂载点,直接关闭电源,重启Ubuntu前把 CD/DVD驱动器1 的连接断开。

最后,目前docker对我国关闭了服务。如果需要安装docker,可以参考 这篇文章 ,或者翻越。

7.其它

到这里已经差不多了,truenas做NAS,win10做云游戏主机,ubuntu做网页服务。如果有需要还可以装OpenWRT做软路由,装CentOS玩,本文就不一一介绍了。

标签: NAS, r730xd

已有 2 条评论

  1. 我也搞了个nas,博客就放在nas上,爽歪歪

    1. 麻烦问一下怎么做外网访问呢,DDNS还是frp内网穿透,还是其它的

添加新评论