串行、并发与并行

串行
按顺序执行

并发
单核cpu下，线程实际还是串行执行的。操作系统中有一个组件叫做任务调度器，将cpu的时间片（Windows下时间片最小约为15毫秒）分给不同的线程使用，只是由于cpu在线程间的切换非常快，人类感觉是同时运行的。
一般会将这种线程轮流使用cpu的做法称为并发。

并行
多核cpu下，每个核（core）都可以调度运行线程，这时候线程可以是并行的。

引用Rob Pike的一段描述：
并发（concurrent）是同一时间应对（dealing with）多件事情的能力
并行（parallel）是同一时间动手做（doing）多件事的能力

下面用三个任务举例说明：
任务A：准时时间2分钟，等待时间10分钟
任务B：准备时间3分钟，等待时间10分钟
任务C：准备时间5分钟，等待时间10分钟

串行，总耗时：任务A(2+10) + 任务B(3+10) + 任务C(5 +10) = 40分钟
并发，总耗时：先执行任务A，准备耗时2分钟，在等待A完成的这段时间内就开始做任务B，准备耗时3分钟，在等待B完成的这段时间内又去做任务C，等待耗时5分钟，5分钟后，任务C结算，总耗时为：任务A准备耗时2分钟 + 任务B准备耗时3分钟 + 任务C准备耗时5分钟，合计10分钟
并行，总耗时：由于是同时执行，取最大耗时任务C，5分钟