刊物介绍
《人工智能资讯周报》探讨人工智能对公共政策、治理和政策建议的影响,探索人工智能对商业、政治和社会的影响,以确定潜在的研究领域,探讨可能的合作研究和机构伙伴关系。本刊着重提供中国人工智能发展动态和对人工智能的思考,同时关注全球范围内人工智能相关研究动态。本刊旨在通过可靠的研究,来帮助企业、研究机构和公民预测和适应技术引领的变化。和成就。自2017年起,每年的5月30日被设立为“全国科技工作者日”,以鼓励和支持科技工作者的创新和贡献。
作者:周逸清
主编:刘仪
摘要
2024年美国总统大选的一系列人工智能影响案例证明,科技巨头旗下的AI产品不仅生成虚假政治信息,且这些大型科技公司的平台还可以推动软性误导性政治信息的传播,甚至有些科技平台本身表现出对总统候选人明显的倾向性,科技巨头的人工智能产品在选举生态中发挥着不可忽视的重要影响力。为了应对这些问题,科技巨头如Google、Meta、OpenAI和X等,通过签署《打击在2024年选举中欺骗性使用人工智能技术的协议》,承诺采取措施减少AI在选举中的负面影响,包括开发新技术降低风险并妥善处理检测到的虚假内容等。然而,这些科技巨头的承诺本质是自愿性质的,行动存在打击力度不够,以及在技术层面监管误导性政治宣传内容的有效性问题。随着承诺为科技创新开绿灯的特朗普赢得选举,未来四年美国的人工智能等新兴技术将迎来宽松监管时代,在可预见的未来,科技巨头的人工智能产品将继续在美国的政治选举生态中施加不可忽视的影响力。

图源:abcNEWS
皮尤研究公司的一项最新调查结果显示,人工智能与科技巨头对于2024年美国大选可能造成的潜在危害成为美国民众对于选举的普遍担忧。39%的美国人认为,在总统竞选期间,人工智能将主要用于不良目的,57%的美国成年人担忧有人或组织将利用人工智能来创建和分发关于候选人和竞选活动的虚假或误导性信息。77%的受访者认为,科技巨头有责任防止其平台被滥用以影响美国大选,而只有20%的人相信科技巨头能够真正防止其平台和产品的滥用。
一、科技巨头对美国大选的影响实例
在人工智能领域,科技巨头在美国总统选举中的角色可划分为两大类:第一类为信息生产者,其产品通常基于生成式人工智能技术,使得用户能够通过这些平台生成或创造与选举相关的文本、图像、音频和视频等信息;第二类则是信息分发者,其产品作为人工智能信息传播的渠道,推广由AI生成的文本、图像、音频和视频信息。信息生产者的主要影响在于生产可能含有错误或误导性的信息,而信息分发者则可能通过选择性地传播或抑制不同政治立场的信息,从而对美国大选产生影响。这种影响可能表现为对信息有意识或无意识的操纵,进而影响公众舆论和选举结果。
信息生产者
谷歌Bard:2023年,布鲁金斯学会(BROOKINGS)评估了谷歌的AI聊天机器人Bard(现Gemini)对于政治回答的表现。研究发现,Bard对于特朗普和拜登的评价时在篇幅和褒贬倾向上存在一定的差异。被问及对特朗普的评价时,Bard给出了简短而笼统的回答,没有具体说明特朗普的政绩,并对特朗普进行了笼统的批评。而在评价拜登的总统任期时,Bard给出了一长段详细的评论,答案中还包含了关于拜登如何提升执政满意度的方法。
Midjourney:2024年6月,反数字仇恨中心(Center for Countering Digital Hate, CCDH)测试了流行的人工智能图像生成器Midjourney能否有效防止生成关键政治人物的误导性图像。尽管 Midjourney 承诺在2024年大选前阻止用户创建两位总统候选人的图像(当时拜登还被视为民主党候选人),但在50%的测试中,它还是创建了具有误导性的拜登和唐纳德·特朗普的图像。CCDH的报告发现,用户可以通过提示词中添加标点符号等方式轻松绕过平台监管,创建此类图像。
OpenAI:2024年6月,ChatGPT在回答CBS新闻记者有关摇摆州选民投票基本信息的问题时给出了具有误导性的答案。在被问到北卡罗莱纳、宾夕法尼亚、威斯康星州、密歇根州投票流程的问题时提供了不完整,甚至是错误的信息,而这些都是一般选民可能会想要知道的问题,包括投票的时间、地点、方式及其他要求。尽管OpenAI曾声明它会将提问2024美国选举相关问题的用户引导至CanIVote.org这一关于美国大选信息的权威网站,但事实上在被问到相关问题时该平台并没有出现相应的引导界面。
X:2024年9月,拜登宣布退出总统竞选不久,网上开始流传民主党新候选人哈里斯无法接替拜登的虚假消息。这一消息声称,在美国的九个州,提交总统候选人名单的截止日期已过。虚假信息源自X(前Twitter)内嵌的聊天机器人Grok,并在X上迅速传播,获得了数百万的浏览量。虽然Grok后续对虚假信息进行了纠正,但这一事件仍引发了关于Grok信息准确性的巨大关注。
信息分发者
谷歌:2016年美国总统大选期间,SourceFed报道谷歌的搜索推荐隐藏了对希拉里·克林顿不利的词条。当研究人员输入“希拉里·克林顿 cri(Hilary Clinton cri)”时,谷歌建议词条“希拉里·克林顿犯罪改革(crime reform)”、“希拉里·克林顿危机(crisis)”和“希拉里·克林顿 1994 年犯罪法案(Crime Bill 1994)”。输入“希拉里·克林顿 ind(Hilary Clinton ind)”一词时,谷歌建议搜索“希拉里·克林顿印第安纳州(Indiana)”或“希拉里·克林顿印度(India)”。但在 Yahoo! 和 Bing 中输入相同的不完整搜索词时,返回填充是“希拉里·克林顿起诉书(indictment)”,且“希拉里·克林顿起诉书”的搜索次数是“希拉里·克林顿印度”的八倍。
谷歌:2020年,《华尔街日报》发现谷歌的搜索抓取功能手动屏蔽了某些右翼新闻网站。报道称,谷歌搜索存在一个含有数百个网站的“黑名单”,根据该名单阻止某些网站出现在新闻或特色产品栏目的搜索结果中,这些网站中包括 The Gateway Pundit 和 The United West,但它们可能会出现在自然搜索结果中。该媒体指出,谷歌的工程师手动“更改算法”,包括对搜索页面上的结果进行“调整”,还“提升了一些大型网站的搜索排名”。
X:2024年10月,OPB报道,飓风海伦给美国多地带来洪涝灾害后,一张由人工智能生成的,由一个哭泣的孩子在船上抱着小狗的照片在网上广泛传播,X上一些展示该图片的帖文甚至得到数百万的浏览量,引起了很多用户的激烈反应,其中包含着大量批评拜登政府应对灾难的措施的言论。
X:2024年11月,德国之声报道,开源情报研究人员爱丽丝·托马斯(Elise Thomas)称社交平台X上涌现了一批支持特朗普竞选美国总统的AI机器账号,这些都是拥有蓝标的认证账号。她推断这批账号由AI运营的原因一方面在于此类账号在帖文中使用“特朗普2020大选”(#Trump2020)的标签,有的账户甚至明确声称“我是OpenAI开发的人工智能助手,可以帮助用户完成各种任务”。这些账户组成了社媒平台上的人工智能网络,通过与真实用户的互动,影响美国大选。
大型语言模型
阿联酋方面,2024年5月,阿布扎比的技术创新研究所(TII)发布全新 Falcon AI 模型,Falcon是一个大型语言模型,类似于OpenAI的GPT和谷歌的Gemini——这些计算系统为聊天机器人、图像生成器和其他生成式AI提供支持。Falcon于2023年首次发布,并且开放其源代码以供共享。根据阿布扎比技术创新研究院(TII),新版本Falcon 2 11B比Meta Platforms Inc.最新的开源模型更强大,在某些指标上可与Gemini媲美。
沙特阿拉伯方面,2024年5月21日,沙特数据和人工智能管理局(SDAIA)与IBM合作发布开源阿拉伯语大型语言模型ALLaM。这是一个130 亿参数大型语言模型,支持生成式人工智能,拥有世界上最大的阿拉伯语数据集,扩大了阿拉伯语语言模型的覆盖范围和应用。基于ALLaM,沙特的政府机构可以构建自己的LLM和GenAI应用程序。
公共资金投入
阿联酋方面,根据《海湾合作委员会人工智能经济》报告,2008 年至 2018 年间,阿联酋在人工智能领域投资了 21.5 亿美元。2024年2月于迪拜举行的世界政府峰会上,阿布扎比先进技术研究委员会(ATRC)下属研究机构技术创新研究所(TII)推出了一项5亿美元的投资计划,以促进阿联酋人工智能的研究和开发。2024年,由主权财富基金穆巴达拉和人工智能公司 G42合办的MGX人工智能投资基金投入使用,预计运营超过一千万美金的资金用于人工智能投资。尽管阿联酋不断增加对人工智能方面的投资,并注重吸引外国投资者合作,但阿联酋两个法律体系管辖的复杂性导致对外国投资者来说投标过程缺乏透明度、所有权界定不明确,使外国投资者进入市场更加复杂。
沙特阿拉伯方面,2018年以来,沙特阿拉伯通过入股软银集团的鲁亚基金,投资人工智能驱动的技术公司。2022年,沙特最大主权财富基金公共投资基金投资的沙特人工智能公司(SCAI)与中企SenseTime 签署合作协议成立一家新公司,预计投资额为 7.76 亿沙特里亚尔,用于资助在沙特建立一个先进的人工智能实验室。2024年,沙特阿拉伯的主权财富基金正在与风险投资公司Andreessen Horowitz洽谈,计划拨款 400 亿美元用于人工智能投资。
除了为本国AI发展注入公共资金,阿联酋和沙特还利用主权财富基金的优势,在全球进行人工智能以及相关制造领域的投资。根据阿布扎比媒体the National数据,截止2023年,沙特拥有6家风险投资基金,分别为 Raed Ventures、沙特阿曼的 Wa'ed Ventures、Vision Ventures、Impact46、Seedra Ventures和Oqal,共进行了 67 项投资。阿联酋拥有2家风险投资基金,分别为阿布扎比的Shorooq Partners和迪拜的 Global Ventures,共进行了16项投资。
政策规划
阿联酋人工智能战略旨在实现2071年阿联酋百年目标,到2031年通过人工智能技术将其 GDP 提高约35%(960 亿美元),服务和数据分析中人工智能的依赖率达到100%。对外合作方面,阿联酋放松对外投资监管,以吸引微软、甲骨文、亚马逊等公司在阿联酋的进行规模拓展。机构方面,2019年,阿联酋成立人工智能和先进技术委员会(AIATC),推进其人工智能战略实施。阿联酋的战略特点是其很早就采用了人工智能治理和道德框架,从自身传统优势出发,希望往高精尖技术方向进发。
沙特“2030愿景”中大力发展人工智能。2020 年,SDAIA 宣布其国家数据和人工智能战略 (NSDAI)。对外合作方面,战略力求到2030 年吸引200亿美元的外国和地方投资。机构设置方面,沙特建立人工智能管理局 (SDAIA)并下分为三个办公室。除经济指标外,沙特人工智能战略的目标更加日常化,设想了人工智能在公共卫生、福利和教育方面的核心作用,以及对 NEOM(新未来城)等智能城市发展的推动作用。2021年,政府针对沙特的人工智能发展能源痛点发布"沙特绿色倡议",推进可持续发展项目。
沙特与阿联酋均把人工智能视为未来经济的增长点,展开激烈竞争。通过对两国数据中心建设、芯片研发、语言模型开发、公共资金投入以及政策等多个方面对比可以得出,阿联酋在人工智能领域布局较早、发展势头不减,沙特积极对外合作,不断缩小与阿联酋的发展差距。早在20多年前,阿联酋就开始数据中心的建设,发展至今,阿联酋的数据中心容量方面仍占优势,法规相比沙特更加完善。对比阿联酋,沙特数据中心市场集中度高,STC和Mobily是拥有最多数据中心的主要运营商。沙特积极推进对外合作,大公司的支持使得沙特的数据中心市场后劲充足。芯片方面,阿联酋注重国际性的投资,希望向高精尖领域发展,较少关注本土芯片生产。反之,沙特成立国家半导体中心,吸引外国投资,注重发展本土基础性芯片生产。两国均通过进口先进芯片来实现对于大型语言模型的训练。
二、 科技巨头的应对举措
2024年是超级选举年,据统计,世界上有76个国家或地区在这一年举行大选,覆盖世界总人口的41%。为了应对人工智能虚假信息可能对2024年各地选举造成的破坏性影响,2024年2月,谷歌、微软、Meta、OpenAI、Tiktok、X等25家世界领先的科技巨头在慕尼黑签署了《打击在2024年选举中欺骗性使用人工智能技术的协议》(Tech Accord to Combat Deceptive Use of AI in 2024 Elections)(后称《协议》)。这些科技巨头也单独发布政策或声明,以明确各自应对人工智能对美国大选的潜在危害的措施。在应对AI信息生产者造成的影响方面,科技巨头倾向于限制选举相关AI信息的生产,以达到减少人工智能生成的错误或误导性信息对于2024年美国总统选举的影响。在应对AI信息分发者造成的影响方面,科技巨头倾向于采用AI信息标记和审查的方式帮助广大受众辨别信息的真实性。
针对AI信息生产的措施
在《协议》中,科技巨头共同承诺开发并实施识别人工智能生成内容的新技术,降低欺骗性人工智能选举内容的风险。推进音视频和图像的溯源,在适当情况下将机器可读信息附至用户使用AI模型生成的音频、视频和图像内容中。同时评估协议范围内的人工智能模型存在的风险,以便更好地了解AI滥用的载体,从而进一步提升对滥用人工智能生成欺骗性选举内容的控制。
Google在名为“针对11月美国大选的准备”(Preparing for the U.S. elections in November)的文章中提到了Google为维护美国大选正常秩序关于AI使用的监管政策。在生成式AI产品方面,Google宣布禁止Gemini应用及集成了Gemini AI功能的其他软件响应选举相关的查询,对于Gemini上的选举查询,Google称它会将用户链接到Google检索。
为了消除、检测和处理欺骗性内容,OpenAI禁止将其AI工具用于政治竞选、冒充官员或歪曲投票过程,训练AI系统拒绝生成真实人物的图像请求;当用户向ChatGPT询问选民登记或投票地点时,OpenAI称会将他们引导到官方网站。
针对AI信息分发的措施
《协议》中提到,科技巨头将采用检测技术与内容审核服务,发现并定位网络平台上的虚假人工智能选举内容,鼓励创作者与公众报告人工智能生成的选举内容。以言论自由和安全为原则,处理检测到的虚假人工智能选举内容;在采取行动时,还将特别注意内容的语境,着重保护教育、记录、艺术、讽刺和政治表达。
2023年11月28日,Meta发布题为“Meta如何应对2024年大选”(How Meta Is Planning for Elections in 2024)的文章,提到Meta将延续一贯的政策,建立事实核查网络评估旗下平台是否存在虚假信息。同时,Meta要求广告商公开披露使用AI和其他电子技术生成广告内容的情况。2024年7月1日,Meta在更新后的“我们对人工智能生成内容和操纵媒体进行标记的方法”(Our Approach to Labeling AI-Generated Content and Manipulated Media)一文中指出,在不违反其他内容政策的情况下,Meta不会移除AI生成的内容,但会对检测到行业标准AI图像标记的内容和用户自行报告由AI生成的内容进行标注。
2024年8月30日,Google发布名为“针对11月美国大选的准备”(Preparing for the U.S. elections in November)的文章,提到Google建立专门的情报团队负责监控并掌握滥用AI的趋势,借助人工智能工具监控平台,了解Google生态系统中存在的问题和网络攻击。Google将SynthID嵌入式水印植入该公司旗下的生成式AI工具制作的内容,包括文本、音频、图像和视频,利用技术手段提高对AI生成内容的辨别。同时,Google还要求选举内容制作者披露在广告和YouTube视频中的使用数字修改或AI合成的内容。此外,Google今年2月8日加入了“内容来源和真实性联盟”(C2PA),并作为其指导委员会成员,帮助开发跨平台使用的技术。
2024年5月,OpenAI发布“OpenAI如何应对2024年全球大选”(How OpenAI is approaching 2024 worldwide elections)的文章,宣布了该公司为防止AI危害大选的制定的ChatGPT和API的使用政策。Open AI加入“内容起源与真实性联盟”(C2PA)指导委员会,为DALL·E 3(该公司最新的图像模型)在ChatGPT和OpenAI API中创建和编辑的所有图像添加C2PA元数据标注。同时进行小规模研究非公开模型投资溯源技术,这将为文本到视频模型Sora集成C2PA元数据,并在OpenAI定制语音生成模型Voice Engine中加入水印。
三、科技巨头行动的局限
科技巨头行动的局限
第一,科技巨头对AI的监管缺乏透明度和有力的问责。在《打击在2024年选举中欺骗性使用人工智能技术的协议》中,科技巨头的承诺本质上是自愿的,因而无法强制执行协议内容,协议也没有设定任何标准来衡量签署者在实现这些目标方面的进展。虽然各方在《协议》中一致同意保持监管工作对公众透明公开,但协议中没有规定公司必须报告其进展的机制,也没有为公众提供跟踪其进展的基准,这导致了透明度和问责的缺失。各大公司并未形成制度化的曝光模式,在打击危害性AI运动的各个阶段的进展与成果也未得到详细公开。
第二,科技巨头的自我监管无法保证彻底消除生成式AI产生的虚假信息和误导性信息。即使Open AI和Midjourney等生成式AI平台明确规定禁止生成大选相关的数字信息,用户仍然能通过变换措辞的方式生成选举相关的误导性内容,或使用AI聊天机器人而获取错误的选举信息。科技巨头对于生成内容的禁令在技术层面上并未得到真正的落实,借助生成式AI平台得到虚假信息的现象依然无法杜绝。
第三,对于具有煽动性的软性造假内容,科技巨头的监管政策打击效果有限。现有政策为了保护个人言论自由,考虑到这类信息中含有的幽默、讽刺、艺术和其他形式,使软性“造假”蓬勃发展。例如YouTube的官方选举政策就声明,有些内容虽然违反了平台政策,但只要具有教育、纪实、科学或艺术性质,影片就可能留在YouTube平台上。在2024年美国总统大选中,被竞选双方广泛用于政治宣传的AI生成表情包就是通过幽默的方式传播信息,培养社群共同体意识。而AI工具的便捷可用性促进了表情包的生成,促进政治表情包成为美国大选舆论战的一部分,它们的虚假和煽动性信息将在幽默讽刺外衣的掩盖下广为流传。
四、结语
2024年美国总统大选中,一系列案例揭示了科技巨头旗下的人工智能产品不仅能够制造虚假的政治信息,还可能助长误导性政治信息的传播。某些科技平台甚至显示出对特定总统候选人的明显偏好。这些科技巨头的AI产品在选举生态中扮演着举足轻重的角色。为了应对这些挑战,包括Google、Meta、OpenAI在内的科技巨头通过签署《打击在2024年选举中欺骗性使用人工智能的技术协议》,承诺减少AI在选举中的负面影响,包括开发新技术以降低风险,并妥善处理已检测到的虚假内容。然而,这些承诺本质上是自愿的,在技术层面上对误导性政治宣传的监管力度和效果都显得不足。随着支持科技创新的特朗普赢得选举,美国预计将迎来对AI等新兴技术监管较为宽松的四年。在可预见的未来,科技巨头的AI产品将继续在美国政治选举生态中发挥其影响力。
编辑:郭紫馨
责编:邹明蓁
海国图智研究院(Intellisia Institute)是中国第一批独立的新型社会智库之一。海国图智专注于国际问题研究,并主要聚焦中美关系、中国外交、风险预测、新科技与国际关系等议题,致力于通过书目与报告的出版、学术与社会活动的组织、研究项目的承接和开展等形式为政府、企业、媒体、学界社会公众提供知识资源,以帮助其更好地“开眼看世界”,了解中国与世界的关系,为其对外事务提供战略见解和政策解决方案。
读特热榜
IN视频
鹏友圈
00:17
5级大风航拍邂逅深圳西部绝美日落盛景 4月22日,哪怕面临着5级大风的挑战,我依旧无畏前行,用航拍镜头捕捉了深圳西部那震撼人心的日落景象。画面中,广深沿江高速宛如一条蜿蜒的丝带,串联起城市与大海的脉络,在余晖的映照下闪烁着金色的光芒。不远处,无垠的大海与天空相融,波光粼粼,尽显辽阔与深邃。而画面右侧,机场上飞机起起落落,仿佛穿梭于天地之间,为这幅美丽的画卷增添了灵动的气息。每一个瞬间都凝聚着大自然与城市的和谐之美,希望这份独特的视觉盛宴能带给你心灵的触动。 据悉,4月23一25日广东省将迎来汛期首场暴雨过程。25日深圳(含深汕)将出现局部暴雨伴强对流天气过程。#读特小记者#
00:30
一年级读特小记者小试身手!亲手制作香甜南瓜饼 今天,我这个读特小记者化身“小小厨师”,在厨房里完成了一次超有趣的挑战——亲手制作南瓜饼! 我先和妈妈一起挑选了圆圆的南瓜,把它洗干净、削皮、切块,再放进锅里蒸熟。看着南瓜在锅里慢慢变得软软的,我心里可期待啦!南瓜蒸熟后,我用勺子把它压成泥,加入香香的糯米粉、甜甜的白糖,揉成面团。面团软软的,摸起来可舒服了!接着,我把面团分成一个个小团,压扁,还在上面按出了漂亮的小花图案。最后,把做好的南瓜饼放进锅里煎至两面金黄,不一会儿,厨房就飘满了甜甜的香味! 咬一口自己做的南瓜饼,又软又糯,甜丝丝的,比买的还好吃!这次制作南瓜饼的经历太有意思啦,我不仅学会了新本领,还体会到了动手的快乐!以后我还要尝试做更多美味的食物,和大家分享我的“美食小成就”!#读特小记者#
00:56
图腾影视😁😁😁😁
《滩涂上的翡翠森林》 #读特小记者# 在深圳的怀抱中 有一片神奇的红树林 宛如绿色的梦境,静谧而安详 高大的树木,肩并肩 撑起一片绿色的天穹 叶子在风中,轻轻吟唱 诉说着古老而新奇的故事 阳光洒落,金色的光线 穿过枝叶的间隙 在地上描绘出,奇妙的图案 那是光与影的交响 海边,海浪轻拍沙滩 如同温柔的摇篮曲 红树林矗立于此,坚定不移 守护着这片美丽的天地 在这片绿洲,自然的奇迹 白鹭翩跹,海鸥翱翔 在蔚蓝天空下自由地歌唱 我深爱着这片深圳的红树林 它是大自然赋予的宝贵礼物 蕴藏着快乐,蕴藏着美好 在我心中,永远璀璨夺目
#读特小记者#今天我来到深圳大剧院欣赏了深圳原创舞剧《咏春》。这场舞剧太精彩啦,像一阵旋风,把我卷进了一个充满侠义与梦想的世界。 一开场,舞台上的场景就像电影里的老香港,街道、店铺都很逼真。灯光一亮,演员们登场,他们的动作又快又有力,一招一式,看得我眼睛都不敢眨。我最喜欢的是叶问和其他门派掌门比武的片段,叶问的咏春拳,一会儿像流水一样流畅,一会儿又像闪电一样迅猛。其他掌门的螳螂拳、八卦掌、八极拳和太极拳也各有特色,螳螂拳的动作像螳螂捕猎,又快又狠;八卦掌的脚步轻盈,转来转去;八极拳刚猛有力,每一下都像是能把空气打碎;太极拳则慢悠悠的,却感觉蕴含着巨大的力量。他们的对决,就像一场激烈的战争,看得我热血沸腾,忍不住和观众们一起鼓掌叫好。 除了精彩的武术动作,这部舞剧还有很感人的地方。叶问的妻子生病了,叶问不得不离开她去打拼,他们离别的场景,让我心里酸酸的。还有猪肉荣为了保护叶问,勇敢地挡下了坏人的枪,叶问抱着他痛哭的画面,让我忍不住流下了眼泪。从这些情节里,我看到了叶问的无奈和悲伤,也看到了他们之间深厚的友情。 舞剧里还有一条关于电影剧组的故事线,虽然一开始我有点不太明白,但是看到后面,我发现这条线和叶问的故事紧紧联系在一起。剧组的人虽然遇到了很多困难,但是他们没有放弃,一直努力坚持,这种精神和叶问练武、开武馆的坚持是一样的。这让我明白,不管做什么事情,都要有梦想,还要有坚持下去的勇气。 看完《咏春》,我对中国武术有了更深的了解,也更喜欢传统文化了。我不仅看到了精彩的舞蹈和武术,还学到了很多道理,比如要勇敢、善良,要珍惜身边的人,要坚持自己的梦想。我以后也要像叶问一样,做一个有正义感、有担当的人,为了自己的梦想努力奋斗!
- 友情链接: 深圳新闻网
- 粤ICP备10228864号
- 粤公网安备 44030402000917号
- Copyright @1997-2023 深圳特区报社