日本综合一区二区|亚洲中文天堂综合|日韩欧美自拍一区|男女精品天堂一区|欧美自拍第6页亚洲成人精品一区|亚洲黄色天堂一区二区成人|超碰91偷拍第一页|日韩av夜夜嗨中文字幕|久久蜜综合视频官网|精美人妻一区二区三区

RELATEED CONSULTING
相關咨詢
選擇下列產品馬上在線溝通
服務時間：8:30-17:00
你可能遇到了下面的問題
關閉右側工具欄

新聞中心

這里有您想知道的互聯(lián)網(wǎng)營銷解決方案
火山引擎ByteHouse：ClickHouse如何保證海量數(shù)據(jù)一致性

背景

ClickHouse是一個開源的OLAP引擎，不僅被全球開發(fā)者廣泛使用，在字節(jié)各個應用場景中也可以看到它的身影?；诟咝阅堋⒎植际教攸c，ClickHouse可以滿足大規(guī)模數(shù)據(jù)的分析和查詢需求，因此字節(jié)研發(fā)團隊以開源ClickHouse為基礎，推出火山引擎云原生數(shù)據(jù)倉庫ByteHouse。

在日常工作中，研發(fā)人員經(jīng)常會遇到業(yè)務鏈路過長，導致流程穩(wěn)定性和數(shù)據(jù)一致性難保障的問題，這在分布式、跨服務的場景中更為明顯。本篇文章提出針對這一問題的解決思路：在火山引擎ByteHouse中構建輕量級流程引擎，來解決數(shù)據(jù)一致性問題。

使用輕量級流程引擎可以幫我們使用統(tǒng)一的標準來解決復雜業(yè)務鏈路的編排問題，不僅提高業(yè)務代碼的可讀性和復用性，還能更專注業(yè)務核心邏輯的開發(fā)，讓整體流程更加標準化、規(guī)范化。

總結來說，使用流程引擎有以下優(yōu)勢：

  • 輕量級，接入方便，內存操作，性能有保障
  • 易維護，流程配置與業(yè)務分離，支持熱更新
  • 易擴展，豐富的執(zhí)行策略及算子支持

大體思路

圖片

上圖為ByteHouse企業(yè)版管理平臺功能架構圖。從該功能架構圖可以看出，ByteHouse核心能力都是依賴ClickHouse集群，對于集群節(jié)點多、數(shù)據(jù)計算量大的業(yè)務場景，容易出現(xiàn)節(jié)點狀態(tài)不一致的問題，因此保證ClickHouse集群間的狀態(tài)一致性是我們的核心訴求。

圖片

為了保證數(shù)據(jù)一致性，ByteHouse提供了以下能力：

  1. event engine: 事件處理中心
  2. workflow engine：輕量級流程引擎
  3. 對賬系統(tǒng)

保障數(shù)據(jù)一致性最簡單的方式是通過狀態(tài)機來監(jiān)聽流程執(zhí)行過程：

  • 首先，將所有的任務請求下發(fā)到event engine，由event engine將任務分發(fā)對應的handler執(zhí)行，統(tǒng)一管理所有下發(fā)任務的生命周期，并提供異步重試、回滾補償?shù)裙δ?。流量匯總到event engine以后，會讓服務后續(xù)的業(yè)務擴展更加便捷。
  • 其次，對于比較復雜的任務請求，我們可以下發(fā)到workflow engine執(zhí)行，由workflow生成實例，并編排任務隊列，管理流程執(zhí)行實例的生命周期，統(tǒng)一失敗回滾，失敗重試。
  • 最后，對于服務不可用等特殊場景產生的臟數(shù)據(jù)，由對賬服務兜底。

圖片

架構設計

在流程監(jiān)控的架構設計中，主要包含以下：

  • 流程管理層：主要負責流程配置的解析初始化，并完成編排策略的工作
  • 策略behavior層：編排執(zhí)行節(jié)點，并下發(fā)執(zhí)行任務到執(zhí)行器
  • 執(zhí)行器：管理執(zhí)行節(jié)點執(zhí)行
  • 執(zhí)行節(jié)點：負責業(yè)務具體實現(xiàn)

圖片

實現(xiàn)方案

執(zhí)行節(jié)點

圖片

流程引擎的核心為“責任鏈”，按照責任鏈上的節(jié)點順序依次執(zhí)行所有任務，所以我們需要的三個基本單元分別為：

  • request：入?yún)?/li>
  • processlist：流程執(zhí)行節(jié)點list
  • response：出參

在研發(fā)工作中，我們時常會遇到以下問題：

  • 如果同時出現(xiàn)了一個問題，node1、node2、node3之間的數(shù)據(jù)交互如何實現(xiàn)？
  • 如果node1入?yún)?、出參與node2，node3不一樣該如何處理？
  • 參數(shù)類型不同的node又該如何統(tǒng)一調度？

最簡單的處理辦法，是讓node使用相同的上下文信息，將整個執(zhí)行node模版化。我們讓所有的執(zhí)行節(jié)點node實現(xiàn)相同的接口Delegation，統(tǒng)一使用相同的上下文executionContext作為執(zhí)行方法的入?yún)ⅰ?/p>

對于流程中的request和response，我們可以放入executionContext中，讓每個執(zhí)行節(jié)點都可以通過上下文操作response。

// Delegation -
type Delegation interface {
   Execute(ctx context.Context, executionContext ExecutionContextInterface) apperror.AppError
   TryExecute(ctx context.Context, executionContext ExecutionContextInterface) apperror.AppError
   ConfirmExecute(ctx context.Context, executionContext ExecutionContextInterface) apperror.AppError
   CancelExecute(ctx context.Context, executionContext ExecutionContextInterface) apperror.AppError
   Code() string
   Type() value.DelegationType
}

執(zhí)行策略

如果確定好了最小的執(zhí)行節(jié)點，我們需要考慮到，業(yè)務場景并不會永遠順序執(zhí)行node，再返回結果，流程執(zhí)行過程中跳轉、循環(huán)、并發(fā)執(zhí)行都是比較常見的操作?？紤]不同業(yè)務場景復用性，我們在執(zhí)行節(jié)點之上加了一層執(zhí)行策略，用策略behaivor來重新編排觸發(fā)執(zhí)行節(jié)點的任務。

  • 下圖將流程分成了behavior1和behavior2，分別對應不同的策略。
  • 簡單的策略舉例：按順序執(zhí)行、并發(fā)執(zhí)行、循環(huán)執(zhí)行、條件跳轉執(zhí)行等。
  • 我們可以根據(jù)自身業(yè)務實際需要定制，后續(xù)會有實例介紹。

圖片

// ActivityBehavior -
type ActivityBehavior interface {
   Enter(ctx context.Context, executionContext ExecutionContextInterface, pvmActivity PvmActivity) apperror.AppError
   Execute(ctx context.Context, executionContext ExecutionContextInterface, pvmActivity PvmActivity) apperror.AppError
   Leave(ctx context.Context, executionContext ExecutionContextInterface, pvmActivity PvmActivity) apperror.AppError
   Code() value.ActivityBehaviorCode
}

策略behavior提供有Enter，Execute，Leave三個接口，Enter負責生成執(zhí)行節(jié)點任務instance，Execute負責編排并觸發(fā)執(zhí)行任務instance操作，Leave負責跳轉到下一個behavior。

可以看出來策略behaivor的跳轉方式類似于鏈表，不斷執(zhí)行next方法，所以編碼過程中需要注意不要出現(xiàn)死循環(huán)，小心stackoverflow。

Executor

執(zhí)行器Executor的主要作用是串聯(lián)執(zhí)行策略和執(zhí)行節(jié)點，策略behavior將執(zhí)行的命令下發(fā)給Executor，由Executor對執(zhí)行節(jié)點的觸發(fā)操作。這里會根據(jù)執(zhí)行節(jié)點的type，映射到三種執(zhí)行節(jié)點的執(zhí)行方式，包含tcc，執(zhí)行一次，重試多次。

// DelegationExecutor -
type DelegationExecutor interface {
   execute(ctx context.Context, executionContext ExecutionContextInterface) apperror.AppError
   postExecute(ctx context.Context, executionContext ExecutionContextInterface) apperror.AppError
}
func (de *DefaultDelegationExecutor) execute(ctx context.Context, executionContext ExecutionContextInterface) apperror.AppError {
   delegationCode := executionContext.GetExecutionInstance().GetDelegationCode()
   if len(delegationCode) == 0 || de.DelegationMap[delegationCode] == nil {
      logger.Info(ctx, "DefaultDelegationExecutor delegation code not found,use default delegation", zap.String("delegationCode", delegationCode))

      delegationCode = string(value.DefaultDelegation)
      executionContext.GetExecutionInstance().SetDelegationCode(delegationCode)
   }
   return de.dumpExecute(ctx, executionContext, delegationCode)
}
func (de *DefaultDelegationExecutor) dumpExecute(ctx context.Context, executionContext ExecutionContextInterface, delegationCode string) apperror.AppError {
   FireEvent(ctx, executionContext, value.ExecutionStart)
   var err apperror.AppError
   delegation := de.DelegationMap[delegationCode]
   switch delegation.Type() {
   case value.TccDelegation:
      err = tccExecute(ctx, executionContext, delegation)
   case value.SingleDelegation:
      err = singleExecute(ctx, executionContext, delegation)
   case value.RetryDelegation:
      err = retryExecute(ctx, executionContext, delegation)
   }
   if err != nil {
      logger.Error(ctx, "delegation.Execute_err", zap.Error(err))
      return apperror.Trace(err)
   }
   FireEvent(ctx, executionContext, value.ExecutionEnd)

   return nil
}

ExecutionContext

ExecutionContext上下文是用來記錄了流程執(zhí)行的所有細節(jié)，包含以下：

  • ProcessEngineConfigurationInterface: 流程定義信息
  • ExecutionInstanceInterface: 執(zhí)行節(jié)點實例
  • ActivityInstanceInterface: 執(zhí)行策略實例
  • ProcessInstanceInterface: 流程實例
  • request：入?yún)?/li>
  • response：返回值

為了保證整個流程執(zhí)行的穩(wěn)定性，這里除了response之外，所以其他的實例參數(shù)都不建議開放寫接口，response可以用來存儲流程實例執(zhí)行過程中會產生的變量信息。

對于整個流程的定義ProcessEngineConfiguration，我們可以選擇最簡單的方式，即在數(shù)據(jù)庫里，將配置信息映射成json字符串。當然也可以選擇讀取配置文件，只要能滿足讀取方便，數(shù)據(jù)不丟即可。

// ExecutionContextInterface -
type ExecutionContextInterface interface {
   GetProcessEngineConfiguration() ProcessEngineConfigurationInterface
   SetProcessEngineConfiguration(processEngineConfiguration ProcessEngineConfigurationInterface)
   GetExecutionInstance() instance.ExecutionInstanceInterface
   SetExecutionInstance(executionInstance instance.ExecutionInstanceInterface)
   GetActivityInstance() instance.ActivityInstanceInterface
   SetActivityInstance(activityInstance instance.ActivityInstanceInterface)
   GetProcessInstance() instance.ProcessInstanceInterface
   SetProcessInstance(processInstance instance.ProcessInstanceInterface)
   SetNeedPause(needPause bool)
   IsNeedPause() bool
   SetActivityIndex(activityIndex int)
   GetActivityIndex() int
   SetActivityBehaviorCode(activityBehaviorCode value.ActivityBehaviorCode)
   GetActivityBehaviorCode() value.ActivityBehaviorCode
   SetBizUniqueKey(bizUniqueKey string)
   GetBizUniqueKey() string
   GetRequest() map[string]interface{}
   SetRequest(request map[string]interface{})
   GetResponse() map[string]string
   SetResponse(response map[string]string)
   AtomicAddResponse(key string, value string)
}

Listener

監(jiān)聽器的主要作用是用來監(jiān)聽流程執(zhí)行中的重要參數(shù)信息。從上述executor接口可以看到fireEvent，它的作用是發(fā)送消息event，讓listener監(jiān)聽到對應的event類型，完成一些定制化的行為。

類似于面向切面編程，我們可以在執(zhí)行節(jié)點的前后增加定制化的邏輯，如打日志、監(jiān)聽節(jié)點執(zhí)行時間，持久化流程中產生的response信息、增加鏈路追蹤等。

API

圖片

最后，我們將上述的內容拼接串聯(lián)起來，主要提供三個接口：

  • Start: 啟動流程
  • Signal: 暫?；蚴钱惓Ｍ顺龊?，繼續(xù)執(zhí)行流程
  • Abort: 強制中斷流程
process start(){
    //1.get and create ProcessEngineConfigurationInterface 解析流程定義
    //2.create processInstance 創(chuàng)建流程實例
    //3.create ExecutionContext 創(chuàng)建執(zhí)行上下文    
    //4. lockstrategy trylock     
    //5. invoke process start 
    processinstance.start()
    //6. persist processInstance and return
    //7. lockstrategy unlock 
}
processinstance start(){
    // get behavior    
    // behavior enter
    behavior.Enter(ctx, executionContext)
    //behavior execute
    behavior.Execute(ctx, executionContext)
    //behavior leave
    behavior.Leave(ctx, executionContext)
}

相比于start，signal需要讀取執(zhí)行的細節(jié)信息，找到之前失敗的執(zhí)行節(jié)點位置，并加載到上下文中，再繼續(xù)執(zhí)行。

對于失敗節(jié)點信息的持久化有兩種方式：第一，可以選擇在流程執(zhí)行結束持久化；第二，可以通過listener在每個執(zhí)行節(jié)點結束持久化。具體根據(jù)實際業(yè)務場景對于性能、數(shù)據(jù)一致性的要求做出抉擇。

并發(fā)場景考慮

  1. behavior策略中肯定會出現(xiàn)定制、并發(fā)、處理多個執(zhí)行節(jié)點到場景的問題，如果同時修改必定會造成數(shù)據(jù)錯亂。簡單的方法推薦使用帶鎖的容器存儲，可以被修改的信息(response)，此處使用的是github.com/bytedance/gopkg包里面封裝的skipmap。
  2. lockstrategy可以自己定義最適配業(yè)務場景的，最簡單的方案是redis鎖，同時也考慮到系統(tǒng)異常退出后的恢復問題?？梢詤⒖紃edis官網(wǎng)解決特殊情況下的鎖異常解決方案：https://redis.io/commands/setnx/

后續(xù)的工作

輕量級流程引擎的基本功能到此已經(jīng)實現(xiàn)，后續(xù)的擴展優(yōu)化可以圍繞以下方向進行：

  1. 界面化展示，可以將鏈路執(zhí)行情況展示出來
  2. 策略behavior維度擴展，適配各種業(yè)務場景
  3. 增加子流程的維度，可以復用原先的執(zhí)行邏輯

Demo示例

以下為簡單的processconfiguration的配置信息，此處使用DefaultBehavior，即同步順序執(zhí)行策略。

{
    "ProcessContentList":[
        {
            "Behavior":"DefaultBehavior",
            "DelegationList":[
                {
                    "Code":"sample1"
                }，
                {
                    "Code":"sample2"
                },
                {
                    "Code":"sample3"
                }
            ]
        },
        {
            "Behavior":"DefaultBehavior",
            "DelegationList":[
                {
                    "Code":"sample4"
                },
                {
                    "Code":"sample5"
                }
            ]
        }
    ]
}

圖片

在listener里面加入日志，這樣可以追溯出整個流程的執(zhí)行流程，以便更好的監(jiān)控整個流程的運行狀態(tài)。

實際使用

以ClickHouse集群縮容為例：

圖片

{
    "ProcessContentList":[
        // 查詢所有需要重分布的table
        {
            "Behavior":"DefaultBehavior",// 順序執(zhí)行
            "DelegationList":[
                {
                    "Code":"hor_reshard_table_loop" 
                }
            ]
        },
        // 遍歷所有table進行數(shù)據(jù)的重分布 
        {
            "LoopKey":"reshard_table_loop_key",
            "Behavior":"NonBlockLoopBehavior",// 非阻塞循環(huán)處理
            "DelegationList":[
                {
                    "Code":"hor_reshard_table"
                }
            ]
        },
        // 進行刪除節(jié)點操作
        {
            "Behavior":"DefaultBehavior",
            "DelegationList":[
                {
                    "Code":"hor_start_remove_node"
                },
                {
                    "Code":"hor_prepare_node_vcloud",
                    "PostCode":"hor_rollback_remove_node_vcloud"http:// 統(tǒng)一失敗回滾處理
                },
                {
                    "Code":"hor_update_config_vcloud",
                    "PostCode":"hor_rollback_remove_node_vcloud"
                },
                {
                    "Code":"hor_set_cluster_running",
                    "PostCode":"hor_rollback_remove_node_vcloud"
                },
                {
                    "Code":"hor_release_node"
                },
                {
                    "Code":"hor_callback_bill"
                }
            ]
        }
    ]
}

總結

一個流程引擎適配所有的業(yè)務場景幾乎是不可能，除非接受復雜的方案設計，而第三方流程引擎對于日常的業(yè)務開發(fā)顯得太笨重。輕量級流程引擎則會簡化接入方式，減少了過多http請求帶來的性能損耗，更加靈活多變，追述問題也變得簡單。

在ByteHouse中加入流程引擎的能力，能以較小的代價給業(yè)務更多重試的可能性，而不需要反復回滾，特別對于耗時很長的任務，能帶來更好用戶使用體驗。除此之外，流程引擎還能將業(yè)務流程模版化，增加接口服務的復用性，使得業(yè)務代碼的可讀性、擴展性得到提升，方便后期維護。

火山引擎云原生數(shù)據(jù)倉庫ByteHouse是火山引擎旗下的一款云原生數(shù)據(jù)倉庫，為用戶提供極速分析體驗，能夠支撐實時數(shù)據(jù)分析和海量數(shù)據(jù)離線分析，同時還具備便捷的彈性擴縮容能力，極致分析性能和豐富的企業(yè)級特性，助力客戶數(shù)字化轉型。


分享標題：火山引擎ByteHouse：ClickHouse如何保證海量數(shù)據(jù)一致性
本文網(wǎng)址：http://www.dlmjj.cn/article/cdhsiec.html