多任务系统往往需要同时执行多道作业。作业数往往大于机器的 CPU 数，然而一颗 CPU 同时只能执行一项任务，如何让用户感觉这些任务正在同时进行呢? 操作系统的设计者 巧妙地利用了时间片轮转的方式。
线程上下文
对于单核 CPU 来说（对于多核 CPU，此处就理解为一个核），CPU 在一个时刻只能运行一个线程，当在运行一个线程的过程中转去运行另外一个线程，这个叫做线程上下文切换（对于进程也是类似）。
上下文切换实现过程
- 挂起一个进程，将这个进程在 CPU 中的状态（上下文）存储于内存中的某处；
- 在内存中检索下一个进程的上下文并将其在 CPU 的寄存器中恢复；
- 跳转到程序计数器所指向的位置（即跳转到进程被中断时的代码行），以恢复该进程在程序中。
引起线程上下文切换的原因
- 当前执行任务的时间片用完之后，系统 CPU 正常调度下一个任务；
- 当前执行任务碰到 IO 阻塞，调度器将此任务挂起，继续下一任务；
- 多个任务抢占锁资源，当前任务没有抢到锁资源，被调度器挂起，继续下一任务；
- 用户代码挂起当前任务，让出 CPU 时间；
- 硬件中断。
线程调度算法
操作系统中线程调度主要有两种方式抢占式调度与协同式调度。
抢占式调度
抢占式调度指的是每条线程执行的时间、线程的切换都由系统控制。系统控制指的是在系统某种运行机制下，可能每条线程都分同样的执行时间片，也可能是某些线程执行的时间片较长，甚至某些线程得不到执行的时间片。在这种机制下，一个线程的堵塞不会导致整个进程堵塞。
JVM 的线程调度实现
Java 使用的线程调度使用抢占式调度，Java 中线程会按优先级分配 CPU 时间片运行，且优先级越高越优先执行，但优先级高并不代表能独自占用执行时间片，可能是优先级高得到越多的执行时间片，反之，优先级低的分到的执行时间少但不会分配不到执行时间。
线程让出 cpu 的情况：
- 当前运行线程主动放弃 CPU，JVM 暂时放弃 CPU 操作（基于时间片轮转调度的 JVM 操作系统不会让线程永久放弃 CPU，或者说放弃本次时间片的执行权），例如调用 yield() 方法；
- 当前运行线程因为某些原因进入阻塞状态，例如阻塞在 I/O 上；
- 当前运行线程结束，即运行完 run() 方法里面的任务。
进程调度算法
操作系统中常用的进程调度算法，主要有三种优先调度算法、高优先权先调度算法和基于时间片的轮转调度算法。
优先调度算法
先来先服务调度算法（FCFS）
每次调度都是从后备作业队列中选择一个或多个最先进入该队列的作业，将它们调入内存运行，分配执行资源。
短作业(进程)优先调度算法（SFJ）
每次都是从后备队列中选择一个或若干个估计运行时间最短的作业，将它们调入内存运行，分配执行资源。
采取优先调度算法时，线程一旦获得 CPU 执行权限，将一直执行到完成，或发生某事件而被阻塞放弃处理机时再重新调度。优先调度算法的缺点是：未照顾到紧迫型作业。
高优先权优先调度算法
为了照顾紧迫型作业，使之在进入系统后便获得优先处理，引入了最高优先权优先(FPF)调度算法。当把该算法用于作业调度时，系统将从后备队列中选择若干个优先权最高的作业装入内存。当用于进程调度时，该算法是把处理机分配给就绪队列中优先权最高的进程。
非抢占式优先权算法
特点：系统一旦把处理机分配给就绪队列中优先权最高的进程后，该进程便一直执行下去，直至完成；或因发生某事件使该进程放弃处理机时。
适用系统：这种调度算法主要用于批处理系统中，也可用于某些对实时性要求不严的实时系统中。
抢占式优先权调度算法
特点：当在系统执行期间，只要又出现了另一个其优先权更高的进程，进程调度程序就立即停止当前进程(原优先权最高的进程)的执行，重新将处理机分配给新到的优先权最高的进程。
适用系统：显然，这种抢占式的优先权调度算法能更好地满足紧迫作业的要求，故而常用于要求比较严格的实时系统中，以及对性能要求较高的批处理和分时系统中。
高响应比优先调度算法
原理：在短作业优先算法的基础上，为每个作业引入优先权，并使作业的优先级随着等待时间的增加而以速率 a 提高，则长作业在等待一定的时间后，必然有机会分配到处理机。
特点：
- 如果作业的等待时间相同，则要求服务的时间愈短，其优先权愈高，因而该算法有利于短作业；
- 当要求服务的时间相同时，作业的优先权决定于其等待时间，等待时间愈长，其优先权愈高，因而它实现的是先来先服务；
- 对于长作业，作业的优先级可以随等待时间的增加而提高，当其等待时间足够长时，其优先级便可升到很高，从而也可获得处理机。
优点：该算法既照顾了短作业，又考虑了作业到达的先后次序，不会使长作业长期得不到服务。
缺点：在利用该算法时，每要进行调度之前，都须先做响应比的计算，这会增加系统开销。
基于时间片的轮转调度算法
时间片轮转法
实现：
- 系统将所有的就绪进程按先来先服务的原则排成一个队列，每次调度时，把 CPU 分配给队首进程，并令其执行一个时间片；
- 当执行的时间片用完时，由一个计时器发出时钟中断请求，调度程序便据此信号来停止该进程的执行，并将它送往就绪队列的末尾；
- 然后，再把处理机分配给就绪队列中新的队首进程，同时也让它执行一个时间片。
这样就可以保证就绪队列中的所有进程在一给定的时间内均能获得一时间片的处理机执行时间。
多级反馈队列调度算法
实现：
- 设置多个就绪队列，并为各个队列赋予不同的优先级与不同的时间片。 第一个队列的优先级最高，第二个队列次之，其余各队列的优先权逐个降低。在优先权愈高的队列中，为每个进程所规定的执行时间片就愈小。例如，第二个队列的时间片要比第一个队列的时间片长一倍，……，第 i + 1 个队列的时间片要比第 i 个队列的时间片长一倍；
- 当一个新进程进入内存后，首先将它放入第一队列的末尾，按 FCFS 原则排队等待调度。当轮到该进程执行时，如它能在该时间片内完成，便可准备撤离系统；如果它在一个时间片结束时尚未完成，调度程序便将该进程转入第二队列的末尾，再同样地按 FCFS 原则等待调度执行；如果它在第二队列中运行一个时间片后仍未完成，再依次将它放入第三队列，……，如此下去，当一个长作业(进程)从第一队列依次降到第 n 队列后，在第 n 队列便采取按时间片轮转的方式运行；
- 仅当第一队列空闲时，调度程序才调度第二队列中的进程运行。仅当第 1～(i-1)队列均空时，才会调度第 i 队列中的进程运行。如果处理机正在第 i 队列中为某进程服务时，又有新进程进入优先权较高的队列(第 1～(i-1)中的任何一个队列)，则此时新进程将抢占正在运行进程的处理机，即由调度程序把正在运行的进程放回到第 i 队列的末尾，把处理机分配给新到的高优先权进程。
在多级反馈队列调度算法中，如果规定第一个队列的时间片略大于多数人机交互所需之处理时间时，便能够较好的满足各种类型用户的需要。