2023年6月9日下午，由伦敦大学玛丽女王学院Nick Bryan-Kinns教授带来的“新工科·新设计”系列讲座第五十二期在湖南大学设计艺术学院桃子湖麓山实验室报告厅顺利举行。
主讲嘉宾Nick Bryan-Kinns是伦敦玛丽女王学院-电子工程与计算机学院教授，EPSRC+AHRC媒体与艺术技术博士培养中心主任，皇家艺术学会会士（FRSA）、英国计算机学会会士（FBCS）、高等教育学院院士（FHEA）、计算机械协会高级会员（SMACM）。此次讲座围绕Myths of Creative AI: Reflections from AI and Music（创造性AI的神话：来自AI和音乐的反思）这一主题展开。讲座由湖南大学设计艺术学院副院长王巍教授主持。在本次分享中，Nick Bryan-Kinns教授将近期自己在不同讲座、广播、采访中被问到最多的问题进行了整理，分享了他对于人工智能的看法与反思，引用了许多学者的思考，并结合自身实践的生动的案例与大家探讨了创造力的概念，表达了对于AI技术发展过程中可能产生的问题的担忧，也畅谈了对Human-Centred AI技术的期待。
图1 Nick Bryan-Kinns教授的讲座现场
（一）IS AI CREATIVE？AI是否有创造性？
Nick Bryan-Kinns教授首先询问了在场听众对“AI是否具有创造性”这一问题的看法，随后提出他的看法：如果AI具有创造性，那么AI应该能够给出对自身创作过程的解释，但现阶段的AI是做不到的。
教授引用了Margaret Boden的观点：“创造力应该是具有价值取向的（value-laden），一个具有创造性的想法应该对某些方面具有意义、有启发性、有挑战性”；单纯产出新奇、不寻常、令人眼前一亮的结果并不等同于Boden所理解的“创造力”，也不是Bryan-Kinns教授所认同的创造力。
图2 Nick Bryan-Kinns教授对创造力的理解（结合Boden观点）
电脑对世界的经验和人类对世界的经验是不同的，即使AI具有了意识，有了自己的创造能力，这种创造也是基于计算机经验世界的结果，不一定能够被人类真正地识别和理解，因此教授认为AI对于人类活动不具有真正能够被人类理解的创造性。结合AI参与的音乐创造来具体理解。教授提出，现在的AI算法可以根据已经被创造出来的音乐结果、风格、规律进行模仿或复制，但它（目前的音乐AI算法）只是一种编程（programming），还不能够真正形成一种前所未有的音乐风格，也无法在表达人类真切情绪的需求中做得比人类音乐家更好。Bryan-Kinns教授认为Music is made and appreciated by humans and can be generated by AI（音乐是被人所制作并欣赏的，它可以由AI产生）。
基于对创造力的定义和AI音乐编程过程的理解，教授认为至少现阶段的AI不具有人类能够理解的创造性（AI is not creative）。
图3 Nick Bryan-Kinns教授：AI不具有创造性
（二）AI会取代创意工作者吗？
在讲座的第二部分，教授谈到了一个许多人会问及的话题：“AI会取代创意工作者吗？”。人们总是担心AI将会取代所有的创意工作者，但教授认为这样的观点有些过分夸大。AI可能会取代懒惰的创意工作者，但不会取代那些优秀的创意工作者——优秀创意工作者的激情、才华是无法被复制和替代的，那些触动人心灵的、基于人类自我认知的优秀作品，是无法被AI完整理解并完美生成的。教授认为，AI不会取代所有的创意工作者，而会成为创意实践中越来越有用的工具（tools for creative practitioners）。
图4 Nick Bryan-Kinns教授：AI不会取代创意工作者
（三）AI会改变创造力吗？
在第三个焦点问题中，教授指出AI生成艺术并不是一件新鲜事物，从1957年Lejaren Hiller博士创作的第一首完全由计算机生成的音乐作品《Iliac Suite》开始，人们便一直尝试将计算机、人工智能与艺术创作相结合。人工智能将在很大程度上改变创造力，在音乐与设计等创造领域，人工智能减少了创意过程中一些重复人力的过程。在庞大数据集的训练下，人工智能一定会对创造力产生各种令我们意想不到的影响（in unexpected ways）。
图5 Nick Bryan-Kinns教授：AI会对创意过程产生影响
（四）EXPLAINABILITY-对AI技术可解释性的担忧
不同于前面观点中的乐观态度，教授在讲座中也提到了自己的担忧。首先就是AI模型的可解释性（Explainability），细分可包括三个方面：可解释性（Interpretability）、透明度（Transparency）和不透明的责任（Responsibility of Opaque）。目前的人工智能模型经过了大量数据的训练，但我们并不知道它是如何生成某一结果的。同时，人工智能所生成的内容该由谁负责？是使用模型的人，还是开发和训练模型的人，这也是一个待解决的问题。教授以自己的经历举例，他要求ChatGPT3“用David Bowie的风格写一段歌曲来描述缓慢移动的交通状况”，结果算法给出了以下解释：“鲍伊以将各种音乐风格融入他的歌曲而闻名，包括摇滚、流行、放克和电子音乐；对于这首歌，我想创造一种紧张和沮丧的感觉，反映出被困在缓慢移动的交通中”。教授认为这的确是对这首歌的解释，但这并不能解释“为什么ChatGPT会这样做？（But it's not an explanation of why did the ChatGPT do it this way?）”；他认为ChatGPT给出的解释更像是一个音乐老师会用的口吻，而真正创作这段旋律的人类音乐家则可能会给出更个性化、更基于创作过程和亲身体验的解释。
图6、7 Nick Bryan-Kinns教授对AI可解释性的担忧
（五）DATASETS-对数据集的担忧
同时，教授还担忧用数据集训练这一过程可能产生的问题。具体可细分为三个方面：偏见（Bias）、道德伦理（Ethics）和可持续性（Sustainability）。目前用于训练的数据主要被集中掌握于大型跨国商业公司手中，我们不知道这些数据从何而来、有哪些数据被使用、这些数据被如何使用；另一方面，这些被收集的数据又通常带有潜在的地域性、文化性、民族性等差异，这会导致人工智能在使用过程中对非主流文化进一步的边缘化，从而产生偏见（Bias）。
教授也担心数据集的伦理问题（ethics of the datasets）：如果人工智能模型使用了创作者的数据（特别是还在世的创作者的数据）用于训练并通过售卖生成的歌曲获得了一些收益，往往歌曲原始的创作者是不会有任何收益的，在设计领域应该也存在类似的问题。我们现在训练模型的方式使得这些模型内容的原始作者不被承认。
对于可持续性（sustainability），教授指出训练人工智能需要大量的数据，而储存和训练的过程将会消耗现实世界中大量的水电资源，而这无疑也会对我们的生存环境带来影响。因此，我们不应该只想到将现有的模型不断迭代升级，以创造出更强大的人工智能，而更应该着眼于如何创造出更高效（more efficient）、更环境友好型（environmental-friendly）的人工智能模型。
图8 Nick Bryan-Kinns教授对AI数据集的担忧
（六）HUMAN-CENTRED AI以人为本的人工智能
基于对人工智能技术的担忧，Bryan-Kinns教授也提出了对人工智能发展的期待：There is hope! 人工智能的发展是有希望的，结合Ben Shneiderman的观点，引出了以人为本的人工智能（Human-Centred AI）这一理念。“电脑应该扮演一个支持性的角色，放大人类的能力，让人产生卓越的表现；当设计师、软件工程师、产品经理把以用户为中心的设计实践方法和不同的利益相关者充分调动融合时，HCAI系统便出现了”（Shneiderman, 2020/1）。教授认为以人为本的系统应该放大（amplify）而不是削弱（erode）人类的能动性，以人为本的人工智能的建立，应该帮助我们成为更好的人并且有效改善人类的生存环境。
图9 Nick Bryan-Kinns教授引用“HUMAN-CENTRED AI”相关概念
（Shneiderman, 2020/1）
教授分享结束后，在场的同学和老师踊跃参与了同Bryan-Kinns教授的讨论，分享了自己的想法和观点，提出了不同视角的疑问，得到了教授的一一解答。同教授交流的内容不仅扩展了同学们的视野，还为同学们提供了新的思考方向，增进了大家对AIGC研究的兴趣。讲座的最后举行了湖南大学设计艺术学院外国荣誉专家聘用仪式，由王巍副院长为Nick Bryan-Kinns教授颁发荣誉聘书，讲座现场的老师和同学们与教授一起合影留念。
图10 Nick Bryan-Kinns教授的外国荣誉专家聘用仪式
新闻供稿： 黄阅斌，栾之珑
图片摄影： 贺天宇
