![](https://w1.hoopchina.com.cn/games/images/def_man.png)
小弟从小受到爷爷的影响,喜欢看各种体育运动,几乎是守着CCTV5长大。读博以后希望做一些真正热爱的内容,跟导师一拍即合,尝试做体育方面的AI课题,并且从传播度最广的足球先行入手。
今天两个杯赛都结束了,也趁着热度宣传一下我们团队(上海交大&上海AI Lab)在欧洲杯和美洲杯期间开源的,一个关于AI足球解说的前期工作 "MatchTime: Towards Automatic Soccer Game Commentary Generation." 这篇工作专注于对于足球比赛的长视频理解,和对于一些关键事件的时间戳对齐,是我们关于AI足球解说的系列工作里面的第一篇(后续正在制作中)。
一些参考链接:
演示视频: https://www.bilibili.com/video/BV1L4421U76m
文章链接: https://arxiv.org/abs/2406.18530/
网页: https://haoningwu3639.github.io/MatchTime/
数据集: https://huggingface.co/datasets/Homie0609/MatchTime
模型文件: https://huggingface.co/Homie0609/MatchTime
🎉关于项目的一些细节概述:
i) 观察到现有数据集中普遍存在的视频文本偏差,我们手动注释了49场比赛的时间戳,建立了一个更强大的足球比赛评论生成基准: SN-Caption-test-align。
ii) 此外,我们提出了一个多模态时间对齐流水线,用于大规模自动校正和过滤现有数据集,创建一个更高质量的足球比赛评论数据集用于训练: MatchTime。
iii) 基于我们的精选数据集,我们训练了一个自动评论生成模型: MatchVoice,它可以准确地合成职业足球比赛的文本评论。
iv) 广泛的实验已经证明了我们对齐流水线的有效性,并且在我们制作的数据集上的训练模型在文本评论生成方面达到了最先进的性能。
感谢您能看到最后,对于现阶段来讲,人工智能在体育领域的应用更多是数据的搜罗和一些框架的
套壳,所以我们目前能做的更多就是构建一个更好的数据库,来推动这个领域的发展。对于我个人而言,我想投身这个领域的梦想就是通过AI让更多人感受到体育本身的魅力和激情。尤其在职业化和大众化程度慢慢摸索着走向正轨的中国足球,希望我们也能贡献一份微薄的力量。欢迎JRs交流和批评指正捏。🎉
小弟从小受到爷爷的影响,喜欢看各种体育运动,几乎是守着CCTV5长大。读博以后希望做一些真正热爱的内容,跟导师一拍即合,尝试做体育方面的AI课题,并且从传播度最广的足球先行入手。
今天两个杯赛都结束了,也趁着热度宣传一下我们团队(上海交大&上海AI Lab)在欧洲杯和美洲杯期间开源的,一个关于AI足球解说的前期工作 "MatchTime: Towards Automatic Soccer Game Commentary Generation." 这篇工作专注于对于足球比赛的长视频理解,和对于一些关键事件的时间戳对齐,是我们关于AI足球解说的系列工作里面的第一篇(后续正在制作中)。
一些参考链接:
演示视频: https://www.bilibili.com/video/BV1L4421U76m
文章链接: https://arxiv.org/abs/2406.18530/
网页: https://haoningwu3639.github.io/MatchTime/
数据集: https://huggingface.co/datasets/Homie0609/MatchTime
模型文件: https://huggingface.co/Homie0609/MatchTime
🎉关于项目的一些细节概述:
i) 观察到现有数据集中普遍存在的视频文本偏差,我们手动注释了49场比赛的时间戳,建立了一个更强大的足球比赛评论生成基准: SN-Caption-test-align。
ii) 此外,我们提出了一个多模态时间对齐流水线,用于大规模自动校正和过滤现有数据集,创建一个更高质量的足球比赛评论数据集用于训练: MatchTime。
iii) 基于我们的精选数据集,我们训练了一个自动评论生成模型: MatchVoice,它可以准确地合成职业足球比赛的文本评论。
iv) 广泛的实验已经证明了我们对齐流水线的有效性,并且在我们制作的数据集上的训练模型在文本评论生成方面达到了最先进的性能。
感谢您能看到最后,对于现阶段来讲,人工智能在体育领域的应用更多是数据的搜罗和一些框架的
套壳,所以我们目前能做的更多就是构建一个更好的数据库,来推动这个领域的发展。对于我个人而言,我想投身这个领域的梦想就是通过AI让更多人感受到体育本身的魅力和激情。尤其在职业化和大众化程度慢慢摸索着走向正轨的中国足球,希望我们也能贡献一份微薄的力量。欢迎JRs交流和批评指正捏。🎉