java吧 关注:1,275,885贴子:12,789,350
  • 3回复贴,共1

问大家一个面试场景题问题

只看楼主收藏回复

今天在面试的时候,问在10亿级别的数据下,调用第三方视图获取数据时如何优化,因为是调用第三方视图,所以索性这些是不能动,我说限制查询日期这些他也不认同,分库分表他也不咋满意,所以还咋优化


IP属地:湖北来自Android客户端1楼2025-08-18 20:54回复
    没听懂,到底是同步别人的数据还是自己的数据,去给别人的数据库分库分表吗,这种一般就是流复制+断点续传 解决方案就是canal或debezium订阅binlog或wal log,或者flink cdc,本地的文件存储可以选parquet或feather,数据库可以选clickhouse什么的


    IP属地:江苏来自Android客户端2楼2025-08-18 21:07
    收起回复
      2025-08-28 19:08:14
      广告
      不感兴趣
      开通SVIP免广告
      如果第三方不能动,就要从我方想办法。比如自己这边建个缓存,把已查到的数据偷偷存起来,未知的才去请求。如果能遍历第三方,干脆就整个拿过来再做优化。不就解决了


      IP属地:浙江来自Android客户端3楼2025-08-19 00:43
      回复