我们知道，AI已经在绘画和音乐领域取得了不错的成果。美国认知科学家侯世达，曾经写过一篇文章来讨论AI的作曲，他说，“一旦音乐最终不可避免地被归约为语法模式，那会是非常黑暗的一天。”
但这种发展是难以避免的。人工智能已经能写出类似巴赫和肖邦的作品，而且作曲的速度比人类作曲家要快得多。以现有的趋势来类推，也许未来有一天，内容创作领域将会被AI占据。少数几个IT企业，会以人类远不能及的速度生产出大量内容，占满我们的注意力和时间。
当小说、音乐之类的内容可以用AI大量生产的时候，显然会导致这些产品的价格大幅度降低。这会让这些领域的创作者们难以维持生计，不得不离开这个行业。那些留在这个行业的人，也只能大量生产粗制滥造的内容，以量取胜而非精雕细琢；因为只有以这种方式，才能在和AI的竞争中勉强获得足以糊口的报酬。这会进一步导致信息过剩，破坏创作的生态环境。
那么在法律上，将如何看待这种状况呢？比如，AI创作的内容，知识产权应该归谁？是这个AI的使用者吗？还是AI的开发者？又或者，AI生产的内容不应该受知识产权保护呢？这个问题，将会决定我们未来所接触到的精神产品，会具有怎样的品味和质量。
上世纪70到90年代，就有一些对这个问题的讨论。联合国教科文组织、美国和日本都认为，如果是人类以电脑为工具生产的内容，比方说你现在听到的这篇听书稿，是我在电脑上一个字一个字敲出来的，那么它就可以看成是著作，享有著作权。但如果人的作用只是按下一个按钮，剩下的工作都是由计算机自动完成的，那么则不算著作。而英国在1998年修改了著作权法，认定后一种情况也可以属于著作。也就是说，对计算机创作的作品是否享有著作权，仍然存在争议。
这是因为，在拟订著作权法时，没有考虑过某个企业会垄断数百万种作品的情况，这是在AI出现后才会出现的新的可能性。按照目前的法律，AI生产的作品很可能不受保护。这对于我这样的内容创作者来说，是个好消息。
也许你觉得知识产权问题和自己的关系不大，但接下来的一个问题，必定会影响你的正常生活，那就是AI网络化对个人隐私的掌控。比如，你将来很可能会购买一个拥有人工智能的家用机器人，它会收集你日常生活中的种种细节；当你在网上购物或者使用社交网络时，人工智能推荐系统会分析你的偏好，并且掌握那些甚至连你自己都没有意识到的个人倾向。这些隐私和个人数据本来只属于你自己，但是在AI面前，你的一切都将无所遁形。
在上世纪末就有研究者提出，应该将隐私保护放在系统设计的各个环节，最大程度地尊重使用者的隐私。2016年，欧盟确立了一般数据保护规则，要求信息系统在设计阶段和初始设定中加入数据保护，让个人隐私仅可以被使用者个人查询。但是总的来说，直到今天，个人隐私保护的相关技术，并没有获得足够重视，如果我们想保护隐私，那只能在生活中时刻注意。
而个人数据方面所面临的问题，甚至比隐私还要大。谷歌曾经开发过一种眼镜，会持续拍摄面前的景象，并且在网络上查询相关信息。这个项目最后被关闭了，但是，市场上还有各种各样带摄像头的眼镜，而且，我们还时刻处于监控摄像头、无人机和自动驾驶汽车的摄录画面中。这些个人信息没有经过我们的允许就被收集起来，而它们是否会被滥用，我们并不知道。
今天的互联网巨头们，都掌握了大量用户的个人数据，并且将这些数据作为企业竞争力的重要组成部分。比方说，已经有电子商务企业开始尝试新的AI定价机制，当判断你对商品的价格不太在意时，就会给你正在浏览的商品显示较高的价格。这显然是一种歧视。这应该归结为企业对个人数据的使用范畴，而这个领域，目前还处在法律的灰色地带。
日本在2013年修正了《个人信息保护法》，来应对这些不确定的问题。在修正后的法律中，制定规则来强化个人信息保护，要求企业履行尽可能消除客户个人数据的义务，并规定未经当事人同意，不得向其他人提供数据。这些规定，是为保护个人数据安全采取的措施。但是，类似的规定，要得到国际社会的统一认可，成为所有企业的行事标准，成为每个互联网和AI用户的基本守则，还有很长的路要走。
