中五 ICT|大数据与数据分析流程(3V/清洗/MapReduce)备课指引(导师用)|45 分钟流程、讲解脚本、常见错误
- 2026-11-15
学生听到“大数据”就想到一堆新名词,但一问清洗之后剩几多行、并行快几多倍就停手。这一堂把流程变成五步流水线,每一步只做加减乘除。
本堂目标 本堂完结时学生能够:(1)讲出收集、清洗、储存、分析、呈现五步各自做什么,同每一步数据量点变;(2)由 500 万行乘 240 bytes 算出 1.2 GB,并讲出 3V 分别指体量、速度、多样性;(3)由缺失 4%(200,000 行)同重复 1.5%(75,000 行)算出清洗后 4,725,000 行,再算出 6 个分片每片 787,500 行;(4)由 4 个 map 各 25 分钟加 reduce 10 分钟算出顺序 110 分钟、并行 35 分钟、加速 3.14 倍,并讲出相关不等于因果。
01 先备知识(开课前 3 分钟快检)
以下任何一项未过关,本堂就会卡住,先补该项:
| 技能 | 快检题 | 过关标准 |
|---|---|---|
| 百分比 | 500 万行的 4% 是几多行 | 答 200,000 行 |
| 单位换算 | 1,200,000,000 bytes 是几多 GB | 答 1.2 GB |
| 除法 | 4,725,000 行平均分 6 个分片 | 答 787,500 行 |
| 速率 | 每日 1,000 万事件,每秒几多事件 | 答 115.74 事件 |
02 课堂流程(45 分钟)
| 时间 | 环节 | 导师做什么 | 学生做什么 |
|---|---|---|---|
| 0–6 分钟 | 起点快检 | 问 4% 行数、1.2 GB、每片行数、每秒事件,答案写白板右边 | 口头答,算式写在纸上 |
| 6–16 分钟 | 第一幕:五步流水线,每步都在缩 | 画五个箭头,箭头上写数据量:5,000,000 行 → 4,725,000 行 → 1.134 GB → 分片 | 学生指出边一步开始缩细 |
| 16–26 分钟 | 第二幕:3V 同清洗是减法 | volume 1.2 GB、velocity 115.74 事件/秒、variety 三种格式;缺失同重复逐层减 | 学生算出 4,725,000 同 787,500 |
| 26–36 分钟 | 第三幕:MapReduce 与呈现 | 4 个 map 各 25 分钟:顺序 110 分钟、并行 35 分钟、加速 3.14 倍;呈现要问第三个变量 | 学生算出 3.14 倍并讲出为何不是 4 倍 |
| 36–42 分钟 | 题型示范与换数字练习 | 换成 800 万行、缺失 5%、8 个 map,示范四种问法 | 学生跟做一题并写出单位(行、GB、秒) |
| 42–45 分钟 | 离场检查 | 三题口头,错的记下是哪一幕 | 三题全对 |
03 讲解脚本(照着说就可以)
第一幕:第一幕:五步流水线,每一步都在缩细数据
“数据分析不是一个程式,是一条流水线。第一步收集:感应器、网站日志、交易纪录,每日 1,000 万个事件。第二步清洗:缺失值、重复值、格式错的值全部要处理,这一步只会变少,不会变多。第三步储存:放进数据库或分散式档案系统,通常按 key 分片,6 个分片就每片一份。第四步分析:计平均、分组、找趋势,数据量大就拆成 map 同 reduce 两段。第五步呈现:仪表板、图表、报告。做题目时,题目问“几多行”就要由源头逐层减,问“几多 GB”就要行数乘每行 bytes,五步不可以跳。”
“清洗之后的行数,有可能多过原本 500 万行吗?为什么?”
第二幕:第二幕:3V 是三个方向,清洗是减法
“大数据的三个 V:volume 体量,500 万行乘每行 240 bytes,等于 1,200,000,000 bytes,即 1.2 GB,用二进制讲就大约 1.12 GiB;velocity 速度,每日 1,000 万事件除 86,400 秒,大约每秒 115.74 个,所以要用串流而不是一次过入库;variety 多样性,同一个系统有结构化的交易表、半结构化的日志、非结构化的文字评论。清洗就是减法:缺失 4% 是 500 万乘 0.04,等于 200,000 行;重复 1.5% 等于 75,000 行;两者一齐移走,剩 5,000,000 减 200,000 减 75,000,等于 4,725,000 行,容量由 1.2 GB 降到 1.134 GB,6 个分片每片 787,500 行。”
“如果缺失同重复有重叠,直接相减会不会算多了?点补救?”
第三幕:第三幕:MapReduce 的加速有上限,呈现要问因果
“分析阶段的并行,用 4 个 map 任务做例:每个 map 25 分钟,如果一部机顺序做,4 个要 100 分钟,再加 reduce 10 分钟,总共 110 分钟;如果 4 部机同时做 map,25 分钟就做完,之后仍然要 10 分钟 reduce,所以总共 35 分钟。加速比是 110 除 35,大约 3.14 倍,不是 4 倍,因为 reduce 不可以并行,而且开机、传资料都有成本。最后一步呈现要小心:图表显示雪糕销量同溺毙人数一齐升,不代表雪糕导致溺毙,两者都跟天气走。分析流程的价值在于问“有没有第三个变量”。”
“如果 map 任务加到 8 个,加速比会不会变成 6 倍以上?为什么?”
04 必教题型与步骤
| 题型 | 例子 | 步骤 | 答案 |
|---|---|---|---|
| 算清洗后行数 | 5,000,000 行,缺失 4%、重复 1.5% | 分别算出两类行数,再逐层相减 | 4,725,000 行 |
| 换算容量 | 5,000,000 行乘每行 240 bytes | 相乘后除 1,000,000,000 得 GB,除 2 的 30 次方得 GiB | 1.2 GB(约 1.12 GiB) |
| 算吞吐量 | 每日 1,000 万个事件 | 除以 86,400 秒;反过来乘 86,400 可以验算 | 约 115.74 事件/秒 |
| 算并行加速 | 4 个 map 各 25 分钟、reduce 10 分钟 | 顺序总时间除并行总时间 | 110 除 35 约 3.14 倍 |
合理性检查(一定要教):四个复核:(1)清洗后行数一定少过原本,多过就代表你加了;(2)GB 用 10 亿 bytes,GiB 用 2 的 30 次方,题目写边个就跟边个,两个数都对但不可以互换;(3)每秒事件数乘 86,400 要回到每日总数,回不到就是除错数;(4)加速比一定细过 map 任务数,4 个 map 出 4 倍就代表你当 reduce 免费。
05 独立练习三题
| 题目 | 答案 | 想观察什么 |
|---|---|---|
| 5,000,000 行,缺失 4%,有几多行要移走? | 200,000 行 | 看学生有没有用 5,000,000 乘 0.04 而不是乘 4 |
| 清洗后 4,725,000 行分 6 个分片,每片几多行? | 787,500 行 | 4,725,000 除 6,不是用原本 500 万除 |
| 4 个 map 各 25 分钟、reduce 10 分钟,加速几多倍? | 约 3.14 倍(110 除 35) | 分母要包含 reduce 的 10 分钟 |
06 学生常见错误与纠正句
| 错误 | 学生通常这样写 | 导师这样说 |
|---|---|---|
| 清洗当成加法 | 答 5,000,000 加 200,000 加 75,000 | 缺失同重复是要移除的行,所以是减。加就等于把坏数据当成新数据,越洗越多。 |
| GB 同 GiB 混用 | 1.2 GB 写成 1.2 GiB | 1.2 GB 大约 1.12 GiB。两个数都对,但单位不可以互换,题目写明就跟题目。 |
| MapReduce 当成全部免费并行 | 答 35 分钟但不计 reduce,或者直接写 4 倍 | 并行只发生在 map 阶段,reduce 仍然要 10 分钟,所以是 110 除 35 约 3.14 倍。 |
| 相关当因果 | 见到雪糕销量同溺毙人数一齐升就话雪糕导致溺毙 | 两者都跟天气走,是共同原因。呈现之前要问有没有第三个变量,这一步不写,报告就会误导人。 |
07 家课建议(直接指到练习卷题号)
- 中学 ICT 备课指引:大数据与数据分析流程章节(题型示范与章末练习) 章末练习第 1 至 4 题
08 离场检查(最后 5 分钟)
| 题目 | 答案 | 判定 |
|---|---|---|
| 500 万行、缺失 4%、重复 1.5%,清洗后几多行? | 4,725,000 行 | 错:重教第二幕,两类都要相减 |
| 4 个 map 各 25 分钟、reduce 10 分钟,并行总时间几多? | 35 分钟 | 错:重教第三幕,map 并行但 reduce 要加返 |
| 图表两条线一齐升,可不可以直接话有因果? | 不可以,要问有没有第三个变量 | 错:重教第三幕,相关与因果 |
09 导师常问
中五学生需要识写 MapReduce 程式吗?
不需要。DSE 考的是流程概念同算术:边一步做什么、数据量点变、并行快几多倍。会用文字讲 map 同 reduce 的分工就够。
这一章同中四试算表的数据处理有什么分别?
中四是在一部机上处理几百行,公式、筛选、枢纽分析表就够;这一章是几百万行,所以要讲分片、串流、并行。同一个加总动作,规模变了,方法就跟住变。
1.2 GB、4,725,000 行、3.14 倍是真实数据吗?
不是,全部是教学数字,设计成可以口算同整除。真实系统的清洗比例同加速比差别很大,重点是每一步的算法同单位。
本页为 TutorZone 导师备课指引,内容由 TutorZone 团队编写;题目与流程为原创,并非任何学校或出版社的教材。
本页内容版权属 TutorZone 所有 · www.tutorzone.com.hk · 仅供个人学习及教学使用


