大型语言模型的快速工程化

ChatGPT中文站 — Photo by Mojahid Mottakin on Unsplash

Deeplearning.AI与OpenAI合作推出一门“聊天GPT提示工程师课程”（限时免费）给开发者学习。

课程亮点：✅课程简洁明了✅Jupyter笔记本提供带提示的互动练习?立即报名

ChatGPT提示工程师开发者——DeepLearning.AI

以下是本课程的主要学习内容的快速总结。

如何与AI大型语言模型（LLM）对话？

指示给模型的内容被称为提示。

当提供提示时的两个关键原则：

使用分隔符（tick标记，三个反引号）。这也有助于避免提示注入。

请求结构化输出（HTML，JSON，XML等）
检查是否满足条件。检查完成任务所需的假设。
少量提示（提供完成任务的成功例子）

2. 给模型一些时间来思考。

指定完成任务所需的步骤。
在决定之前，指导模型自己解决问题。

小心幻觉！

大型语言模型基于生成式人工智能，意味着它试图根据训练数据生成下一个词序列。如果它不得不回应不属于训练数据的内容，它可能会提出听起来合理但不真实的答案。在人工智能世界中，这被称为幻觉。请注意这个限制。

快速开发是迭代的。

你最有可能不能在第一次找到完美的提示。你需要看到模型的结果，然后微调你的提示。记住关键原则。

控制温度

温度 - 这个参数改变了响应中的随机程度。

零度；当您需要可预测性时使用它。
温度更高，变化更多。

有趣的应用案例

要求模型根据椅子产品规格表生成适合目标受众阅读的营销产品描述，并限制字数，同时将尺寸放在HTML表格中。

prompt = f"""
Your task is to help a marketing team create a 
description for a retail website of a product based 
on a technical fact sheet.

Write a product description based on the information 
provided in the technical specifications delimited by 
triple backticks.

The description is intended for furniture retailers, 
so should be technical in nature and focus on the 
materials the product is constructed from.

At the end of the description, include every 7-character 
Product ID in the technical specification.

After the description, include a table that gives the 
product's dimensions. The table should have two columns.
In the first column include the name of the dimension. 
In the second column include the measurements in inches only.

Give the table the title 'Product Dimensions'.

Format everything as HTML that can be used in a website. 
Place the description in a <div> element.

Technical specifications: ```{fact_sheet_chair}```
"""

response = get_completion(prompt)
print(response)

对产品评论进行总结，侧重于特定部门所特有的方面，例如关注与定价相关的评论。

prompt = f"""
Your task is to generate a short summary of a product \
review from an ecommerce site to give feedback to the \
pricing deparmtment, responsible for determining the \
price of the product.  

Summarize the review below, delimited by triple 
backticks, in at most 30 words, and focusing on any aspects \
that are relevant to the price and perceived value. 

Review: ```{prod_review}```
"""

response = get_completion(prompt)
print(response)

从给定文本推断主题。我们可以限制模型，使其也能从一组主题中进行选择。想象一下，如果我们有兴趣从一组客户评论中找出哪个团队需要采取行动，无论评论是针对产品、价格还是运输。

此外，它可以进行翻译、拼写检查/语法检查、扩展给定文本并生成针对每个客户评价量身定制的客户服务电子邮件。