跳至主要內容

item2-9 (秒杀优化1)

codejava_item约 2581 字大约 9 分钟

秒杀优化

秒杀优化思路

原来流程:

当用户发起请求,此时会请求nginx,nginx会访问到tomcat,而tomcat中的程序,会进行串行操作,分成如下几个步骤

1、查询优惠卷

2、判断秒杀库存是否足够

3、查询订单

4、校验是否是一人一单

5、扣减库存

6、创建订单

在这六步操作中,又有很多操作是要去操作数据库的,而且还是一个线程串行执行, 这样就会导致我们的程序执行的很慢,所以我们需要异步程序执行

alt text
alt text

优化方案

alt text
alt text

我们将耗时比较短的逻辑判断放入到redis中,比如是否库存足够,比如是否一人一单,这样的操作

只要这种逻辑可以完成,就意味着我们是一定可以下单完成的,我们只需要进行快速的逻辑判断,根本就不用等下单逻辑走完,我们直接给用户返回成功

再在后台开一个线程,后台线程慢慢的去执行queue里边的消息,这样程序不就超级快了吗?

而且也不用担心线程池消耗殆尽的问题,因为这里我们的程序中并没有手动使用任何线程池,当然这里边有两个难点

第一个难点是我们怎么在redis中去快速校验一人一单,还有库存判断 (lua脚本)

第二个难点是由于我们校验和tomct下单是两个线程,那么我们如何知道到底哪个单他最后是否成功,或者是下单完成, 为了完成这件事我们在redis操作完之后,我们会将一些信息返回给前端,同时也会把这些信息丢到异步queue中去,后续操作中,可以通过这个id来查询我们tomcat中的下单逻辑是否完成了 (阻塞队列,元素有订单id)

大致流程

alt text
alt text

Redis需要保存优惠券的库存信息 + 有关的订单信息

  • 库存信息 (String类型) key: 优惠券id value: 优惠券库存
  • 订单信息 (set类型) key: 优惠券id value:买的用户id

判断库存是否充足 -> 否,返回1 | 是 再判断之前是否下过单 -> 是,返回 1 | 否,扣减库存 -> 将用户id存入对应的优惠券set集合 -> 返回 0

通过 lua 脚本确保原子性

后续如果用户具有购买资格,然后再将对应信息存入阻塞队列,通过异步进程进数据库操作

秒杀优化具体实现

实现秒杀资格判断 + 基于阻塞队列实现异步下单

需求:

  • 新增秒杀优惠券的同时,将优惠券信息保存到Redis中

  • 基于Lua脚本,判断秒杀库存、一人一单,决定用户是否抢购成功

  • 如果抢购成功,将优惠券id和用户id封装后存入阻塞队列

  • 开启线程任务,不断从阻塞队列中获取信息,实现异步下单功能

实现秒杀资格判断

新增时保存信息到Redis

按照需求,首先在添加秒杀优惠券时,除了保存在对应数据表里,还需要将对应的优惠券id和库存保存在redis中

Key: seckill:stock:{voucher_id} Value: 对应库存

对应 VoucherServiceImpl 中:

@Override
@Transactional
public void addSeckillVoucher(Voucher voucher) {
    // 保存优惠券
    save(voucher);
    // 保存秒杀信息
    SeckillVoucher seckillVoucher = new SeckillVoucher();
    seckillVoucher.setVoucherId(voucher.getId());
    seckillVoucher.setStock(voucher.getStock());
    seckillVoucher.setBeginTime(voucher.getBeginTime());
    seckillVoucher.setEndTime(voucher.getEndTime());
    seckillVoucherService.save(seckillVoucher);
    // 保存秒杀信息到 Redis 中
    stringRedisTemplate.opsForValue().set(SECKILL_STOCK_KEY + voucher.getId(), String.valueOf(voucher.getStock()));
}
编写 lua 脚本 判断秒杀库存、一人一单,决定用户是否抢购成功

为了分离业务,将耗时比较短的逻辑判断放入到redis中,分别判断 库存是否充足 + 用户是否之前下过单 (因为 redis 是单线程,所以可以保证并发性)

对应业务的 lua脚本

-- 1.参数列表
-- 1.1.优惠券id
local voucherId = ARGV[1]
-- 1.2.用户id
local userId = ARGV[2]

-- 2.数据key
-- 2.1.库存key
local stockKey = 'seckill:stock:' .. voucherId
-- 2.2.订单key
local orderKey = 'seckill:order:' .. voucherId

-- 3.脚本业务
-- 3.1.判断库存是否充足 get stockKey
if(tonumber(redis.call('get', stockKey)) <= 0) then
    -- 3.2.库存不足,返回1
    return 1
end
-- 3.2.判断用户是否下单 SISMEMBER orderKey userId
if(redis.call('sismember', orderKey, userId) == 1) then
    -- 3.3.存在,说明是重复下单,返回2
    return 2
end
-- 3.4.扣库存 incrby stockKey -1
redis.call('incrby', stockKey, -1)
-- 3.5.下单(保存用户)sadd orderKey userId
redis.call('sadd', orderKey, userId)
return 0

然后,在 VoucherOrderServiceImpl 中修改秒杀的业务逻辑,通过 lua 脚本来判断,然后进行决策

private static final DefaultRedisScript<Long> SECKILL_SCRIPT;
static {
    SECKILL_SCRIPT = new DefaultRedisScript<>();
    SECKILL_SCRIPT.setLocation(new ClassPathResource("seckill.lua"));
    SECKILL_SCRIPT.setResultType(Long.class);
}
@Override
public Result seckillVoucher(Long voucherId) {
    Long userId = UserHolder.getUser().getId();
    // 执行lua脚本
    Long result = stringRedisTemplate.execute(
            SECKILL_SCRIPT,
            Collections.emptyList(),
            voucherId.toString(), userId.toString());

    int r = result.intValue();
    // 判断结果是否为0
    if (r != 0) {
        // 不为0 ,代表没有购买资格
        return Result.fail(r == 1 ? "库存不足" : "不能重复下单");
    }
    
    // 0 有购买资格 将信息保存到阻塞队里
    long orderId = redisIdWorker.nextId("order");
    // 订单信息
    VoucherOrder voucherOrder = new VoucherOrder();
    voucherOrder.setId(orderId);
    voucherOrder.setUserId(userId);
    voucherOrder.setVoucherId(voucherId);
    // 放入阻塞队列
    orderTasks.add(voucherOrder);

    // 获取代理对象
    proxy = (IVoucherOrderService) AopContext.currentProxy();

    // 返回订单id
    return Result.ok(orderId);
}

基于阻塞队列实现异步下单

现在我们去下单时,是通过lua表达式去原子执行判断逻辑,如果判断我出来不为0 ,则要么是库存不足,要么是重复下单,返回错误信息,如果是0,则把下单的逻辑保存到队列中去,然后异步执行

对于判断了有购买资格的用户,我们会将对应的订单信息保存到阻塞队列中,然后通过一个子线程不断获取队列的订单,来进一步实现下单的逻辑,从而异步下单

VoucherOrderServiceImpl

创建阻塞队列 BlockingQueue
private BlockingQueue<VoucherOrder> orderTasks =new ArrayBlockingQueue<>(1024 * 1024);
开启异步线程,初始化时就进行监听阻塞队列
//异步处理线程池
private static final ExecutorService SECKILL_ORDER_EXECUTOR = Executors.newSingleThreadExecutor();

@PostConstruct
private void init() {
    SECKILL_ORDER_EXECUTOR.submit(new VoucherOrderHandler());
}

private class VoucherOrderHandler implements Runnable {
    @Override
    public void run() {
        while(true){
            // 获取队列订单信息
            try {
                VoucherOrder voucherOrder = orderTasks.take();
                // 创建订单
                handleVoucherOrder(voucherOrder);
            } catch (Exception e) {
                log.error("订单异常:", e);
                e.printStackTrace();
            }
        }
    }
}

private void handleVoucherOrder(VoucherOrder voucherOrder) {
    Long userId = voucherOrder.getUserId();
    RLock lock = redissonClient.getLock("lock:order:" + userId.toString());
    //获取锁对象
    boolean isLock = lock.tryLock();
    // boolean isLock = lock.tryLock(10, 60, TimeUnit.SECONDS);
    //加锁失败
    if (!isLock) {
        log.error("不能重复下单!");
        return;
    }
    try {
        // 获取代理对象(事务)
        // IVoucherOrderService proxy = (IVoucherOrderService) AopContext.currentProxy();
        // 拿不到了 因为获取代理对象是通过 threadLocal 来的 但现在是子线程 拿不到父线程的内容
        proxy.createVoucherOrder(voucherOrder);
    } finally {
        //释放锁
        lock.unlock();
    }
}
修改对应的 createVoucherOrder 逻辑

由于异步下单,子线程不能通过 ThreadLocal 获取用户信息,所以需要修改

@Transactional
public void createVoucherOrder(VoucherOrder voucherOrder) {
  // 一人一单
  Long userId = voucherOrder.getUserId();
  Long voucherId = voucherOrder.getVoucherId();
  Integer count = query().eq("user_id", userId).eq("voucher_id", voucherId.toString()).count();
  if (count > 0) {
      log.error("不能重复订单");
      return;
  }

  // 扣减库存
  // 防止超卖
  boolean success = seckillVoucherService.update()
          .setSql("stock = stock - 1")
          .eq("voucher_id", voucherId.toString())
          .gt("stock", 0).update();

  if(!success){
      log.error("库存不足!");
      return;
  }

  // 创建订单
  save(voucherOrder);
}
秒杀业务将订单信息放入阻塞队列中

由于获取代理对象是通过 threadLocal 来的 但现在是异步下单,开启了一个子线程,拿不到父线程的内容,因此只能设一个成员变量,然后初始化

private IVoucherOrderService proxy;
@Override
public Result seckillVoucher(Long voucherId) {
    Long userId = UserHolder.getUser().getId();
    // 执行lua脚本
    Long result = stringRedisTemplate.execute(
            SECKILL_SCRIPT,
            Collections.emptyList(),
            voucherId.toString(), userId.toString());

    int r = result.intValue();
    // 判断结果是否为0
    if (r != 0) {
        // 不为0 ,代表没有购买资格
        return Result.fail(r == 1 ? "库存不足" : "不能重复下单");
    }
    
    // 0 有购买资格 将信息保存到阻塞队里
    long orderId = redisIdWorker.nextId("order");
    // 订单信息
    VoucherOrder voucherOrder = new VoucherOrder();
    voucherOrder.setId(orderId);
    voucherOrder.setUserId(userId);
    voucherOrder.setVoucherId(voucherId);

    // 放入阻塞队列
    orderTasks.add(voucherOrder);

    // 获取代理对象
    proxy = (IVoucherOrderService) AopContext.currentProxy();

    // 返回订单id
    return Result.ok(orderId);
}
最终完整代码
@Service
public class VoucherOrderServiceImpl extends ServiceImpl<VoucherOrderMapper, VoucherOrder> implements IVoucherOrderService {
  @Autowired
  private ISeckillVoucherService seckillVoucherService;

  @Autowired
  private RedisIdWorker redisIdWorker;

  @Autowired
  private StringRedisTemplate stringRedisTemplate;

  @Autowired
  private RedissonClient redissonClient;

  private static final DefaultRedisScript<Long> SECKILL_SCRIPT;
  static {
      SECKILL_SCRIPT = new DefaultRedisScript<>();
      SECKILL_SCRIPT.setLocation(new ClassPathResource("seckill.lua"));
      SECKILL_SCRIPT.setResultType(Long.class);
  }

  private BlockingQueue<VoucherOrder> orderTasks =new ArrayBlockingQueue<>(1024 * 1024);
  //异步处理线程池
  private static final ExecutorService SECKILL_ORDER_EXECUTOR = Executors.newSingleThreadExecutor();

  @PostConstruct
  private void init() {
      SECKILL_ORDER_EXECUTOR.submit(new VoucherOrderHandler());
  }

  private class VoucherOrderHandler implements Runnable {

      @Override
      public void run() {
          while(true){
              // 获取队列订单信息
              try {
                  VoucherOrder voucherOrder = orderTasks.take();
                  // 创建订单
                  handleVoucherOrder(voucherOrder);
              } catch (Exception e) {
                  log.error("订单异常:", e);
                  e.printStackTrace();
              }
          }
      }
  }

  private IVoucherOrderService proxy;

  private void handleVoucherOrder(VoucherOrder voucherOrder) {
      Long userId = voucherOrder.getUserId();
      RLock lock = redissonClient.getLock("lock:order:" + userId.toString());
      //获取锁对象
      boolean isLock = lock.tryLock();
      // boolean isLock = lock.tryLock(10, 60, TimeUnit.SECONDS);
      //加锁失败
      if (!isLock) {
          log.error("不能重复下单!");
          return;
      }
      try {
          // 获取代理对象(事务)
          // IVoucherOrderService proxy = (IVoucherOrderService) AopContext.currentProxy();
          // 拿不到了 因为获取代理对象是通过 threadLocal 来的 但现在是子线程 拿不到父线程的内容
          proxy.createVoucherOrder(voucherOrder);
      } finally {
          //释放锁
          lock.unlock();
      }
  }

  @Override
  public Result seckillVoucher(Long voucherId) {
      Long userId = UserHolder.getUser().getId();
      // 执行lua脚本
      Long result = stringRedisTemplate.execute(
              SECKILL_SCRIPT,
              Collections.emptyList(),
              voucherId.toString(), userId.toString());

      int r = result.intValue();
      // 判断结果是否为0
      if (r != 0) {
          // 不为0 ,代表没有购买资格
          return Result.fail(r == 1 ? "库存不足" : "不能重复下单");
      }
      
      // 0 有购买资格 将信息保存到阻塞队里
      long orderId = redisIdWorker.nextId("order");
      // 订单信息
      VoucherOrder voucherOrder = new VoucherOrder();
      voucherOrder.setId(orderId);
      voucherOrder.setUserId(userId);
      voucherOrder.setVoucherId(voucherId);
      // 放入阻塞队列
      orderTasks.add(voucherOrder);

      // 获取代理对象
      proxy = (IVoucherOrderService) AopContext.currentProxy();

      // 返回订单id
      return Result.ok(orderId);
  }

  @Transactional
  public void createVoucherOrder(VoucherOrder voucherOrder) {
      // 一人一单
      Long userId = voucherOrder.getUserId();
      Long voucherId = voucherOrder.getVoucherId();
      Integer count = query().eq("user_id", userId).eq("voucher_id", voucherId.toString()).count();
      if (count > 0) {
          log.error("不能重复订单");
          return;
      }

      // 扣减库存
      // 防止超卖
      boolean success = seckillVoucherService.update()
              .setSql("stock = stock - 1")
              .eq("voucher_id", voucherId.toString())
              .gt("stock", 0).update();

      if(!success){
          log.error("库存不足!");
          return;
      }

      // 创建订单
      save(voucherOrder);
  }
}

总结

知识点

BlockingQueue

JUC并行 (线程池 ExecutorService + Runnable)

@PostConstruct

不同线程之间的ThreadLocal不共享?

lua脚本

秒杀业务的优化思路是什么?
  • 先利用Redis完成库存余量、一人一单判断,完成抢单业务
  • 再将下单业务放入阻塞队列,利用独立线程异步下单
基于阻塞队列的异步秒杀存在哪些问题?
  • 内存限制问题
  • 数据安全问题
上次编辑于: