预见生成式人工智能的风险与机遇：提示工程师、拉森效应、西部世界综合症、版权侵犯…

在过去的几个月里，我参加了关于#创造性AI的专题讨论、播客节目和主题演讲，关注个人和组织开始他们的Gen AI之旅的风险和机遇，并充满信心和关怀。我很想听听你们对此的想法：

1- 关于#FutureOfWork，很多媒体报道创意、知识和白领工作的结束，崛起的是#PromptEngineer作为新的梦想工作——那些能够对机器耳语的人将得到高薪！但是我们不仅要考虑Prompting作为新职业，更应该将其视为新的必备技能。像#chatGPT等一样的技术可以创造出颠覆性的创新，就像几十年前的搜索引擎或电子邮件一样。没有人的唯一工作是全天进行Google搜索或写电子邮件。这些已经成为我们工作流程中集成的日常技能。鉴于某些提示的复杂性和我们可以从最新的模型中提取的惊人结果，我们仍然可以想知道生成内容提示是否会保持平凡技能或最终自动化——包括提示短列表、参数和过滤器。#PromptMarketplaces正在将提示货币化，价格约为4美元。

2 — 就 #FutureOfCreativity 而言：我们预计 #LarsenEffect（反馈循环）或噪声的放大直到变得痛苦。当新的内容基于生成的内容本身而产生时，人类创造力在输出中保持的百分比是多少？研究人员最近发现生成模型中的不可逆缺陷，导致 #ModelCollapse。此外，想象一下一位生气的顾客要求chatGPT为客户支持创建一条消息...而这条消息由客户代理自动生成自动化响应。在这些AI之间的闲聊对话中，我们是否仍能听到人类声音中的噪音？最重要的是 - 这些广泛的聊天对 #环境会产生什么样的代价？

3 - 内容消费的未来：因此，我们可能最终会生活在一个生成的资产（#WestWorldSyndrome）的世界-新闻，广告，记者声音，影响者，演员。AI教父Geoffrey Hinton辞去了在谷歌的工作，并表达了担忧，即互联网将被虚假照片，视频和文本淹没，普通人将“无法知道什么是真实的”。随着生成的AI继续作为#ActionEngine变得越来越受欢迎，我们对现实的感知可能真的处于危险之中。

4 - #道德和 #责任：道德影响非常巨大，我们必须及早预见，以防止最坏的情况发生。我们已经听到关于语音 #身份盗窃进入银行账户，孩子被操纵的声音向父母索要赎金，大型音乐公司采取行动删除使用他们艺术家表演，声音或外貌生成的内容，而日本则认为AI模型培训不违反#版权。