To translate "Self-hosting Llama 3 on a home server" into simplified Chinese while keeping the HTML structure intact, you can use the following: ```html 自托管 Llama 3 在家庭服务器上 ``` This HTML structure ensures that the translated text remains formatted and can be easily integrated into a webpage or document.

Sure, here's the translation of your text into simplified Chinese while keeping the HTML structure: ```html 使用10年前的显卡和开源组件将Llama 3托管为您自己的ChatGPT替代服务。 ``` In this HTML snippet: - `` indicates that the enclosed text is in simplified Chinese. - `使用10年前的显卡和开源组件将Llama 3托管为您自己的ChatGPT替代服务。` is the translated text.

Sure, here's the translated text: ```html 上周 Meta 推出了 Llama 3，这是他们开源 LLM 系列的最新产品。Llama 3 尤其有趣，因为这个 80 亿参数模型足够小，可以在笔记本电脑上运行，并且在性能上表现得与比它大 10 倍的模型一样好。它提供的响应对于许多用例而言与 GPT-4 一样出色。 ```

Sure, here's the translated text in simplified Chinese while keeping the HTML structure intact: ```html

我最终决定这已经足够激励我从阁楼里找出我的旧Nvidia Titan X显卡，插入到家庭服务器中，以便我能在家庭网络上搭建一个ChatGPT克隆版本。在本文中，我会解释一些自行托管Llama 3的利与弊，并提供配置和资源，帮助您也能实现这一目标。

```

这是如何运作的

Sure, here's the translation of the provided text into simplified Chinese while keeping the HTML structure intact: ```html

该模型由Ollama提供服务，Ollama是一个GPU加速的开源服务，用于作为LLMs服务运行。Ollama广泛使用llama.cpp，这是我大约一年前用来构建turbopilot的同样技术。前端由OpenWebUI驱动，提供类似ChatGPT的用户体验，用于与Ollama模型进行交互。

``` In Chinese: ```html

该模型由 Ollama 提供服务，Ollama 是一个 GPU 加速的开源服务，用于作为 LLMs 服务运行。Ollama 广泛使用 llama.cpp，这是我大约一年前用来构建 turbopilot 的同样技术。前端由 OpenWebUI 驱动，提供类似 ChatGPT 的用户体验，用于与 Ollama 模型进行交互。

```

```html

我使用 Docker Compose 运行这两个服务并将它们连接在一起，同时设置了 Caddy web 服务器来允许外部世界的流量进入。

```

Sure, the translation of "Hardware" into simplified Chinese while keeping the HTML structure would look like this: ```html 硬件 ``` In this HTML snippet: - `` is used to group inline-elements. - `lang="zh-CN"` attribute specifies the language as simplified Chinese. - `"硬件"` is the translation of "Hardware" in simplified Chinese.

Sure, here's your text translated into simplified Chinese within the HTML structure: ```html

我的设置是在一套便宜实惠的 AMD CPU 和主板套装上运行，以及一张十年前的 Nvidia Titan X 显卡（在 eBay 上可以买到更好的显卡，价格约为 £150。RTX 3060 12GB VRAM 将是一个很好的选择）。我的服务器有 32GB 内存，但这个软件组合使用的远远少于这个量。你可能只需要 16GB 就能顺畅运行，甚至可能推到 8GB。

```

Sure, here is the translated text in simplified Chinese while keeping the HTML structure: ```html

您可以在eBay上购买这个捆绑套件和一台二手的RTX3060，或者购买一台全新的，价格大约在250英镑左右，这样在家里就能以不到500英镑的价格拥有一个功能齐全的ChatGPT替代品。

``` In simplified Chinese characters: "您可以在eBay上购买这个捆绑套件和一台二手的RTX3060，或者购买一台全新的，价格大约在250英镑左右，这样在家里就能以不到500英镑的价格拥有一个功能齐全的ChatGPT替代品。"

Sure, here's how you can structure your HTML and translate the text into simplified Chinese: ```html

Pros and Cons of Llama 3

Pros

• 优点1
• 优点2
• 优点3

Cons

• 缺点1
• 缺点2
• 缺点3

``` And here's the translated text for "Pros and Cons of Llama 3" in simplified Chinese: ```html

拉马 3 的优缺点

优点

• 优点1
• 优点2
• 优点3

缺点

• 缺点1
• 缺点2
• 缺点3

``` Replace "优点1", "优点2", etc., with the actual pros of Llama 3 and "缺点1", "缺点2", etc., with the cons you want to list. This HTML structure will present the information clearly with the translated text.

Sure, here's the translation in simplified Chinese, while keeping the HTML structure: ```html

Llama 3 8B 真的是开源替代方案向 OpenAI、Anthropic 和它们的同行的 API 迈出的一大步。我还处于使用我自己托管的 Llama 3 实例的早期阶段，但到目前为止，我发现它在许多领域和 GPT-4 一样强大。

``` This HTML snippet contains the translated text in simplified Chinese within a paragraph (`

`) tag.

To translate "Pro: Price" into simplified Chinese while keeping the HTML structure intact, you would use the following: ```html 优点：价格 ``` This ensures that the text "Pro: Price" is translated correctly into simplified Chinese, and the `lang="zh"` attribute specifies the language for the enclosed content.

To translate the given text into simplified Chinese while keeping the HTML structure intact, you can use the following: ```html

通过使用Ollama和OpenWebUI自托管Llama 3是免费的，除非您需要为硬件和电力消耗进行初始投资。目前ChatGPT Plus的费用是每月20美元，但技术人员可能还在API调用中花费类似的金额。我已经在家里找到了构建这个系统所需的所有组件，但如果我买二手设备，它们大约需要一年的时间才能收回成本。话虽如此，通过自托管模型，我可以大大增加我的API消耗，因为这实际上是“免费”的。

``` This HTML snippet maintains the structure while providing the simplified Chinese translation of the text.

Sure, here's the translation of "Pro: Privacy" in simplified Chinese, while maintaining the HTML structure: ```html Pro: 隐私 ``` In this HTML snippet, `隐私` represents "Privacy" in simplified Chinese, with `lang="zh-CN"` indicating the language as Chinese (simplified).

Sure, here's the translated text in simplified Chinese while keeping the HTML structure intact: ```html

这种方法的巨大优势在于，您不会将数据发送给外部公司进行挖掘。大多数人使用的ChatGPT消费版被大量数据挖掘，以改进OpenAI的模型，您输入的任何内容可能最终成为其语料库的一部分。Ollama完全在您的设备上运行，永远不会将数据发送回任何第三方公司。

``` This HTML snippet translates the provided English text into simplified Chinese, ensuring the structure remains intact for easy integration into a webpage or document.

专业：能源消耗和碳足迹

Sure, here's the translated text in simplified Chinese: ```html 另一个优点是，由于Llama 3:8B体积小，只需单个GPU运行，因此其运行能耗远低于对ChatGPT的平均查询。我的Titan X显卡在最大负载下消耗约250瓦，但RTX 3060显卡只需170瓦即可运行。再次强调，我所有的组件都是闲置的，因此我并没有购买任何新设备来建造这个服务器，这意味着我不会扔掉那些本来会成为电子废料的组件。 ```

Sure, here is the simplified Chinese translation of "Con: Speed on old hardware" while keeping the HTML structure intact: ```html 缺点：旧硬件上的速度 ```

To translate the given English text into simplified Chinese while keeping the HTML structure, you can use the following: ```html 自托管 Llama 3 8B 在 Titan X 上比 ChatGPT 稍慢一些，但仍然完全可用。在 RTX 3 和 4 系列显卡上几乎肯定会更快。 ``` This HTML structure maintains the original English text's formatting while presenting the Chinese translation clearly.

Sure, the translation of "Con: Multimodal Performance" into simplified Chinese, while keeping the HTML structure intact, would look like this: ```html 多模态表现 ```

Sure, here's the translated text in simplified Chinese within the HTML structure: ```html

对我来说，目前最大的缺失功能是多模态支持。我使用GPT-4来进行手写识别和转录，当前的开源模型还不能完全胜任这项任务。然而，考虑到Llama 3的出色质量，我毫不怀疑很快就会有一个同样出色的开源多模态模型问世。

```

Sure, here's the translation in simplified Chinese while keeping the HTML structure: ```html 缺点：培训透明度 ```

尽管 Llama 3 的权重可免费下载，但训练语料的内容是未知的。该模型是由 Meta 构建的，因此很可能是在大量用户生成的内容和受版权保护的内容上进行训练的。像 ChatGPT 这样的托管第三方模型在这方面可能同样存在问题。

Sure, here's the translation of "Setting up Llama 3 with Ollama and OpenWebUI" in simplified Chinese while keeping the HTML structure: ```html 设置 Llama 3 与 Ollama 和 OpenWebUI ``` This HTML structure ensures the translated text can be easily integrated into a webpage while maintaining the proper formatting.

To translate the given English text to simplified Chinese while keeping the HTML structure intact, you can use the following HTML code with the translated text: ```html Once you have the hardware assembled and the operating system installed, the fiddliest part is configuring Docker and Nvidia correctly. ``` Translated text in simplified Chinese: ```html 一旦硬件组装完成并安装了操作系统，最棘手的部分就是正确配置 Docker 和 Nvidia。 ``` So, the complete HTML structure with the translated text would be: ```html

一旦硬件组装完成并安装了操作系统，最棘手的部分就是正确配置 Docker 和 Nvidia。

``` This HTML snippet maintains the structure and provides the translated text in simplified Chinese.

To translate "Ubuntu" to simplified Chinese while keeping the HTML structure intact, you can use the following: ```html Ubuntu ``` This HTML code specifies that the text "Ubuntu" should be displayed in simplified Chinese (`zh-CN`), maintaining the original HTML structure.

Sure, here is the translated text in simplified Chinese within the HTML structure: ```html

如果你使用的是Ubuntu，你需要先安装docker。我建议使用Docker官方提供的指南，安装最新和最好的软件包。然后按照这个指南安装NVIDIA运行时。接下来，你会想要使用下面的检查步骤来验证是否已经设置完成。

```

To translate "Unraid" to simplified Chinese while keeping the HTML structure, you would use the following: ```html Unraid无RAID ``` This HTML structure includes the original English text "Unraid" with its pronunciation guide in simplified Chinese characters, which reads as "无RAID".

To keep the HTML structure intact while translating the text to simplified Chinese, here is the translated text: ```html

我在家用服务器上实际上是在运行Unraid而不是Ubuntu。要使其运行起来，只需通过社区应用页面安装Unraid Nvidia插件，并确保在尝试以下步骤之前停止并重新启动Docker。

``` In simplified Chinese, the translation is: "我在家用服务器上实际上是在运行Unraid而不是Ubuntu。要使其运行起来，只需通过社区应用页面安装Unraid Nvidia插件，并确保在尝试以下步骤之前停止并重新启动Docker。"

检查Docker和Nvidia设置（所有操作系统）

在确保 Docker 和 Nvidia 正确安装并能够互相通信的情况下，您可以运行以下命令：

docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi

Here is the simplified Chinese translation of the provided English text, maintaining the HTML structure: ```html

这会运行 nvidia-smi 状态实用程序，它应该显示您的 GPU 当前正在做什么，但关键是它是从 Docker 内部运行的，这意味着 NVIDIA 的容器运行时已经设置好，可以将 NVIDIA 驱动程序传递到您容器内运行的任何内容。您应该会看到类似如下内容：

``` This HTML snippet contains the translated text in simplified Chinese, formatted as a paragraph.

Sure, here's the translation of "Installing Ollama" in simplified Chinese while keeping the HTML structure: ```html 安装奥拉玛 ``` This HTML structure ensures the text "安装奥拉玛" appears correctly in a web context.

Sure, here's the translation of your text into simplified Chinese, while maintaining the HTML structure: ```html

创建一个新目录和一个名为docker-compose.yml的新空文本文件。将以下内容粘贴到该文件中：

``` In Chinese characters (simplified): ```html

创建一个新目录和一个名为 docker-compose.yml 的新空文本文件。将以下内容粘贴到该文件中：

```

version: "3.0"
services:

  ui:
    image: ghcr.io/open-webui/open-webui:main
    restart: always
    ports:
      - 3011:8080
    volumes:
      - ./open-webui:/app/backend/data
    environment:
      # - "ENABLE_SIGNUP=false"
      - "OLLAMA_BASE_URL=http://ollama:11434"


  ollama:
    image: ollama/ollama
    restart: always
    ports:
      - 11434:11434
    volumes:
      - ./ollama:/root/.ollama
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

Sure, here is the text translated into simplified Chinese while keeping the HTML structure: ```html

我们定义了这两个服务，并且通过卷挂载为它们提供持久化数据到磁盘的能力（例如您下载的模型和聊天历史）。

``` This HTML snippet translates the English text into simplified Chinese, maintaining the original structure.

为了现在，我们将 ENABLE_SIGNUP 注释掉，这样你可以在 Web 界面中创建一个账号，但稍后我们可以回来把它关闭，这样互联网用户就不能注册使用你的聊天服务了。

To translate "Turn on Ollama" into simplified Chinese while keeping the HTML structure intact, you would write: ```html 打开Ollama ``` In this translation: - `` is used to indicate a section of text. - `打开Ollama` means "Turn on Ollama" in simplified Chinese.

Sure, here is the translated text in simplified Chinese while keeping the HTML structure: ```html

首先我们将启动 Ollama 并测试它。通过运行 docker-compose up -d ollama 来开始。（根据您使用的 Docker 版本，您可能需要运行 docker compose 而不是 docker-compose）。这将仅启动 Ollama 模型服务器。我们可以通过运行交互式聊天会话并下载模型来与模型服务器进行交互。

``` This HTML snippet contains the translated text in simplified Chinese as requested.

docker-compose exec ollama ollama run llama3:8b

To translate the provided English text into simplified Chinese while keeping the HTML structure intact, you can use the following: ```html

在这个命令中，第一个ollama指的是容器，而ollama run llama3:8b是将在容器内执行的命令。如果一切顺利，您将看到服务器开始运行并下载llama3模型（如果这是您第一次运行它）。然后，您将看到一个交互式提示符，您可以与模型进行交流。

``` This HTML snippet contains the translated text in simplified Chinese, structured as a paragraph (`

` tag).

Sure, here's the simplified Chinese translation of the text: 您可以按下CTRL+D键退出并继续下一步操作。

Sure, here's how you can translate "Turn on the Web UI" into simplified Chinese while keeping the HTML structure intact: ```html 打开Web UI ``` In this translation: - "打开" means "turn on" or "open". - "Web UI" remains in English letters as it's a technical term commonly understood in English even in Chinese context.

Sure, here's the translated HTML with the simplified Chinese text embedded: ```html

现在我们将启动 web 用户界面。运行 docker-compose up -d ui。现在打开您的浏览器，访问 http://localhost:3011/ 查看 web 用户界面。您需要注册一个账户并登录。之后您将能够像这样与模型进行交互：

``` This HTML snippet preserves the structure while displaying the translated text in simplified Chinese.

Sure, here's the translation of "Configure Outside Access" in simplified Chinese, while keeping the HTML structure: ```html 配置外部访问 ```

Sure, here is the translated text in simplified Chinese, keeping the HTML structure intact: ```html 如果你想要能够从外界与你的模型进行聊天，你可能需要设置一个反向代理来连接你的服务器。如果你是自行托管的新手，不确定如何操作的话，一个更安全的选择可能是使用 Tailscale 来建立一个 VPN，这样你可以安全地连接到家庭网络，而不必担心将系统暴露给公众和/或黑客。 ``` This translation preserves the meaning and structure of the original English text.

Sure, here's the translation: ```html

结论

```

Sure, here is the translated text in simplified Chinese while maintaining the HTML structure: ```html Llama 3 是一个非常强大的模型，适用于包括摘要、创意头脑风暴、代码协作等一大堆用例。响应质量与 GPT-4 接近，而且可以在较旧、较小的硬件上运行。自托管 Llama 3 并非人人都适合，而且技术含量相当高。但是，对于像我这样的 AI 极客来说，在家中运行自己的 ChatGPT 克隆，几乎不花一分钱，实在是一个不容错过的好实验。 ``` This translation keeps the original structure of the text while presenting it in simplified Chinese.

```html

最初发布于 https://brainsteam.co.uk，日期为2024年4月20日。

```