以太坊交易所 以太坊交易所
Ctrl+D 以太坊交易所
ads

一文讀懂為大負荷設計的Filecoin索引器可擴展方案_nDEX:DEX

Author:

Time:1900/1/1 0:00:00

這篇文章描述了一個簡單的策略,可將大量涌入的索引負荷分散到由索引器節點組成的索引池中。同時,它讓這個索引池具備可擴展性。索引器擴容的最終目標是10^{15}個索引。這并非存儲數據的字節大小,而是存儲索引的數量。一個索引實際上就是一張描述了CID標識與內容提供者數據之間關系的映射圖。實際的數據規模將會遠大于此。目前,我們可處理約10^{12}個索引,隨著時間的推移,我們會通過一列步驟向最終的擴容目標前進。目前,大部分的索引負荷是由涌入的索引數據構成的。新增的數據可能超過單一的索引器能夠承受的范圍,它還在極速增加。因此,目前擴容路上最迫切的目標,就是處理增加中的涌入負荷。方案:處理索引涌入的簡單策略

研究員:Scroll即將上線主網:7月12日消息,研究員pseudo發推稱,Scroll即將上線主網,一切都應開箱即用,你只需要更改你的RPC。[2023/7/12 10:50:42]

數據涌入

一個索引器接收到某個發布者傳來的“announce”消息,宣布已經有新的索引數據廣告時,就會發生數據涌入。作為回應,該索引器會從發布者那里檢索所有尚未檢索過的索引數據。隨著發布者數量增加,在某個時候,單一的索引器節點將無法跟上新增索引數據發布的速率,也可能沒有足夠的存儲空間來全部存儲這些數據。分散涌入負荷

索引器擴容處理擁堵負載,是基于一個簡單策略——將涌入的索引負荷分散到由索引器節點組成的索引池中,這樣就能根據容量需求來增加節點,而不需要將數據到處移動來重新達到均衡。它先是分配不同的內容_發布者_給不同的索引節點,這樣每個節點可以處理涌入負荷的一部分。這是通過使用單獨的輕量服務AssignerService來實現的,后者不屬于關鍵的索引涌入路徑的一部分。當一個索引器達到了配置的存儲限制后,它就會停止吸納新增的索引數據,而索引池里的其他索引器會從分配給完整索引器的發布者那里恢復吸納數據。如果存儲容量和涌入負荷分配需求增加,池子里就會增加更多的索引器節點。這個擴容策略的三個主要組件是:分配服務:它將發布者分配給索引器。索引器凍結模式:這種索引器運作模式里,新內容不會被索引。移交發布者任務:將凍結中的索引器的發布者任務重新分配給活躍的索引器,以在凍結索引器停止運行后恢復索引。這篇文章會概括描述這些組件。可以在設計文檔和設計展示中獲取更多信息。擴容策略的優缺點

DeFi定向流動性協議Poolshark Protocol已開源鏈上自動止損產品Cover Pools:6月15日消息,DeFi定向流動性協議Poolshark Protocol已發布鏈上自動止損產品Cover Pools的源代碼,允許想完成定向范圍訂單的交易者使用AMM進行大規模交易,Cover Pools會自動提高LP的價格,讓用戶可以在價格變動時順利地將一種資產換成另一種資產。[2023/6/15 21:38:19]

優點:更少的同步工作:不需要讓每一個索引者與每一個發布者同步。元數據不會重復發送給多個索引器:元數據只會在處理提供者的索引器上存在。索引器之間不會分享數據。它們各自管理自己的發布者鏈。不需要只為了檢查提供者而去閱讀廣告,這與提供者分片一樣。索引器可有不同的存儲容量。不需要共識機制。涌入負荷可重新分配,而無需在索引器之間移動數據。缺點:不平均的分配:一些發布者可能會比其他發布者索引更多的數據。查詢請求需要分散和合并:查詢請求會重復發送給所有索引器,而響應會合并成一個發送給客戶。提供者更改發布者可導致重復索引。增加索引者不會馬上起效,除非一個現有的索引器達到了存儲容量限制。這方案的整體好處是它的實施方案相對簡單,也能去除擁堵擴容的限制。分配服務

DAI回升至0.96美元附近:金色財經報道,據CoinGecko最新數據顯示,DAI現報價0.95996美元,24小時跌幅達4.2%。行情波動較大,請做好風險控制。

金色財經此前報道,MakerDAO發推稱,過去24小時有7.36億枚DAI通過PSM(USDC)被鑄造,使得過去24小時通過所有PSM鑄造的DAI凈增加2.96億枚。[2023/3/12 12:57:33]

分配服務負責將發布者分配給在其配置索引器池中的索引者。對一個索引器池來說,它作為單一實例運行在其管理的索引器所在的同一網絡上。一個索引器只能作為一個分配服務的索引器池里的成員。除了將新的發布者分配給索引器外,分配服務還檢測檢索器節點是否進入了凍結模式,并負責將發布者從凍結索引器重新分配給非凍結的索引器。索引服務還通過gossippubsub渠道重新發布直接的HTTP公告,這樣池中的所有索引器都能接收到這些信息。基于幾個假設,分配服務是用于單個私有部署中使用:任務可以發給任何索引器,所有索引器的管理API是在私有網絡上運行,而且也沒有建立任何方式或協議讓不同的參與方管理池子中要添加或移除的節點。

FTX US:作為獨立實體不受幣安收購影響,繼續正常運營:11月9日消息,據外媒報道,FTX US在接受采訪時回應,盡管FTX將出售給幣安,但FTX US是一個獨立的實體,擁有獨立的管理人員、技術基礎設施和許可。“在FTX US提款正常運行,資產得到1:1的充分支持,交易所繼續正常運作。”(Axios)[2022/11/9 12:35:40]

將一個發布者分配給一個索引器

一個索引器接收到某個發布者傳來的“announce”消息,宣布已經有新的索引數據廣告時分配服務會監聽gossip-sub和直接的HTTP消息——這些消息主要是宣布新廣告可被獲取了。它從每一條消息中讀取發布者信息,并判斷發布者是否已經分配給需要的索引器。如果答案是否定的,該分配服務就會選擇任務量最少的索引器,并將該發布者分配給這個索引器。在分配任務后,索引器會收到來自發布者的公告,并自行處理涌入數據。索引服務會處理離線的索引器,它所用的方式能避免在索引器池里過度分配任務。索引服務還支持將特定發布者分配給特定索引器的配置選項。進一步閱讀材料:非持久化任務狀態意味著索引器能在任何時候停止或重啟。索引器池在某個單一部署中的索引器節點的集合。任務復制將發布者分配給多個索引器。索引器凍結模式

持有0.01枚以上ETH的地址數量達4個月新低:金色財經報道,Glassnode數據顯示,持有0.01枚以上ETH的地址數量達到22,301,911的4個月新低。[2022/8/23 12:41:59]

索引器存儲使用觸及到配置`FreezeAtPercent(<``https://pkg.go.dev/github.com/ipni/storetheindex/config#Indexer`(https://pkg.go.dev/github.com/ipni/storetheindex/config#Indexer"https://pkg.go.dev/github.com/ipni/storetheindex/config#Indexer")`>)`的限制后,索引器自動進入“凍結”模式。這個運作模式里,索引器不再存儲新增的索引數據,但還是會處理索引數據的更新或刪除。一個凍結的索引器不會接受新的發布者任務。在其內部,該索引器追蹤它已讀的每一個廣告鏈,目的是納入廣告。索引器會持續響應對索引數據的查詢。索引器也可以通過其管理(admin)API來手動進行凍結。這可以是為了暫時凍結納入數據,直到索引器的存儲容量提升為止。這樣,持續的索引工作可以被其他索引器節點代替。進一步閱讀材料:磁盤使用監控由每一個索引器負責。凍結的能力不依賴于分配服務。解除凍結的能力可讓索引器恢復索引工作。發布者移交

分配服務定期統計索引器,要是它發現某個索引器被凍結,它就會將該被凍結的索引器分配的發布者重新移交給其他索引器——活躍的索引器會繼續之前凍結索引器上所做的工作。在移交過程中,活躍的索引器也會從凍結的索引器那取得提供者及其相關的進一步信息。分配服務決定哪一個索引器將接收發布者的移交工作——這與分配新發布者的邏輯一樣。每一個發布者的移交過程都會單獨進行這一步驟,這樣凍結索引器的任務就會分配給池子里的可用索引器。進一步閱讀材料:分配服務可以恢復不完整的移交任務發布者數據在凍結和活躍索引器之間分發設立帶有分配服務的索引器池

這里描述了設立帶有分配服務的索引器池的過程。可概括為以下步驟:部署索引器部署分配服務按需部署額外的索引器這里還提供了分配服務配置模板文件。

Tags:INDEXINDnDEXDEXMetaverse IndexIndian Shiba InuInvest Like Stakeborg IndexThe DAOX Index

酷幣下載
KuCoin殺入孵化領域,想要做行業的“前瞻者”_UCO:TinkuCoin

孵化器已經成為了Web3生態建設的標配,各種VC、機構做孵化的案例已經比比皆是。搶灘“璞玉”型公司成為了各家孵化器的長期目標.

1900/1/1 0:00:00
星球日報 | 黃立成發推稱退出NFT領域;美國SEC指控Bittrex及其前CEO(4月18日)_ETH:ITA

頭條 美國SEC指控Bittrex和前CEO經營未注冊的交易所、經紀商和清算機構美國證券交易委員會向美國華盛頓西區地方法院提起訴訟,指控加密資產交易平臺Bittrex.

1900/1/1 0:00:00
盤點ETHTokyo黑客松中5個值得關注的項目_加密貨幣:AidCoin

ETHTokyo黑客馬拉松是以太坊生態系統中的一次盛會,吸引了來自世界各地的開發者和創新者。黑客馬拉松是發現新興趨勢的絕佳途徑。以下是在ETHTokyo黑客馬拉松上發現的五個有趣項目的簡要介紹.

1900/1/1 0:00:00
全面解讀DeFi借貸:組成、公式、用例_KEN:DETIK Token

這篇文章是三篇系列文章的第一篇,討論DeFi借貸協議的工作原理——它們的關鍵組成部分、公式和用例.

1900/1/1 0:00:00
PEPE再掀投機熱潮,下一個Meme Coin是什么?_COIN:Bitcoin Instant

購買MemeCoin能“致富”嗎?近期的PEPE一直在話題熱榜上,改變了“不溫不火”的市場現狀,重新點燃了用戶心中靠Crypto一夜暴富的夢想.

1900/1/1 0:00:00
從「敘事經濟學」看BRC-20的爆火路徑:回歸初心的新敘事_ORD:brc幣未來能漲多少

一、初聞Ordinals、BTC-NFT、BRC-20這部分是概念的堆砌,雖然可以幾句話講明白,但是還是想從原理的角度,將每一個知識點穿起來.

1900/1/1 0:00:00
ads