ref: https://cmdchallenge.com/#/hello_world
今天分享的是一個有趣的 Command Line Interface(CLI) 挑戰,該挑戰主要是基於 Linux bash 的環境有一系列的指令挑戰
挑戰內容基本上都不會太困難,一開始都是非常基礎的 Linux 指令操作,後面會需要使用 grep, sed, awk, find 等不同指令的組合來完成任務。
大部分的題目都會基於一些情境,譬如想要針對 httpd server 底下的 log 進行過濾,計算符合某些內容的行數等等
每道題目除了自行挑戰外也可以看一下別人的解決方案,不過解決方案中有一些是作弊的內容,譬如直接針對題目用 echo 輸出之類的,就滿搞笑的。
我認為這類型的挑戰有兩個值得去玩看看的理由
1. 測試自已是否能夠解決每一個問題,順便看一下自己的解決方式跟別人的比起來如何,有時候會有一些意想不到的指令與用法可以讓整個寫法更為簡潔
2. 如果有面試需求的時候,可以考慮從這邊找一些相關題目,看看面試者對於 shell script 的熟悉度,同時互相討論每個解法的好壞處。
歡迎愛寫 shell script 的人都寫一遍看看
sed linux 在 เกมถูกบอกด้วย v.2 Facebook 的最讚貼文
https://www.humblebundle.com/books/unix-linux-books?partner=ggcp
แพ็คใหม่จาก Humble นะครัช ครั้งนี้คือ UNIX & LINUX by O'REILLY รายละเอียดมีดังนี้
.
จ่าย $1 รับ
Classic Shell Scripting
Linux Device Drivers
Introducing Regular Expressions
grep Pocket Reference
Unix Power Tools
.
จ่าย $10 รับเพิ่ม
Learning the Bash Shell
Learning the vi and Vim Editors
Linux in a Nutshell
sed & awk
Linux System Programming
.
จ่าย $18 รับเพิ่ม
bash Cookbook
Linux Observability with BPF
Mastering Regular Expressions
Effective awk Programming
Linux Pocket Guide
Cybersecurity Ops with bash
.
รายละเอียดเพิ่มเติมดูที่หน้าร้านค้า
https://www.humblebundle.com/books/unix-linux-books?partner=ggcp
.
ดีลนี้หมดเวลาในอีก 20 วันกว่าๆ
.
ถึงหน้าปกจะดูเหมือนสารคดีสัตว์โลก แต่แพ็คนี้ก็รวม eBook (แน่นอนว่าภาษาอังกฤษล้วน) ที่เกี่ยวข้องกับ Unix และ Linux ล้วนๆ ใครทำงานด้านนี้ต้องการหนังสือไปเพิ่มพูนความรู้ก็จัดกันไป
-------------------------------
GGKeyStore.com ร้านขาย Steam Wallet, เกม Steam, Xbox Pass, PSN ไทย, ไอดีเกมมือถือ, Pokemon TCGO ราคาถูก รับของทันที
-------------------------------
Battlefield V (Origin) แจกฟรีสำหรับสมาชิก Prime Gaming ดูวิธีรับที่นี่ - https://bit.ly/3Cn4urT
sed linux 在 Kewang 的資訊進化論 Facebook 的最讚貼文
TL;DR
如果發現 hbase shell 在 scan 或 count 的筆數與你預期筆數不一致的話,就 split region 看看吧。
--- 以下是前言,還真長 XD ---
最近都在忙著新版本上線,所以小編也好一陣子沒發文了。不過這幾天有個有趣的案例,想跟大家分享一下。
有在看小編文章的大概會知道我們產品的資料庫是以 HBase 建置而成的,而 HBase 最重要的組成就是 rowkey 了。若 rowkey 設計錯誤輕微可以使用 column 來救,嚴重的甚至要砍掉整筆 row,重新設計 rowkey 才能解決。
兩年前在設計某 table 的 rowkey 時,不小心忘了對 rowkey 做 salt (HBase 基礎之一,避免 scan 時產生 hotspotting),如果又沒切 region 的話 (HBase 基礎之一,避免 scan 時產生 hotspotting),這些資料在建立時都會跑到同一個 region,在 scan 的時候效能會超差。
像這種例子就算使用 column 來救也完全沒辦法,所以小編就打算把整筆 row 砍掉重新把 salt 加上去。
--- 以下是追蹤過程 ---
原 rowkey 開頭及加上 salt 之後的新 rowkey 開頭如下:
* 原:A000001、新:DNhA000001
* 原:A000002、新:dMfA000002
* 原:A000003、新:p9OA000003
* 以此類推
原 rowkey 相同 pattern (A000XXX) 的 row 有 2000 萬筆 (在 hbase shell 內使用 count 來計算 table 的資料量),所以這次 rebuild 總共會刪除原 rowkey 共 2000 萬筆,新增新 rowkey 共 2000 萬筆。
在使用 HBase 的 Java API 執行增刪 rebuild 後,在 hbase shell 使用 count 計算 table 的資料量時卻只有 900 萬筆。一開始小編還以為是 compaction 跟 flush 的問題,所以強制對 table 做了下面幾個動作,以確保資料有在 HFile 裡面正確地寫入及刪除:
* 確認資料都會刪除:compact、major_ compact
* 確認資料都會寫入:flush
但執行完後再跑一次 count 也是一樣只有 900 萬筆,所以就開始找問題點了。
後來又使用 HBase 的 exists API,確認有找到 2000 萬筆的資料。一開始小編以為是 MapReduce 的問題,因為 HBase 計算 row count 是使用 MapReduce 來執行的,但找了一堆資料都沒人說有類似問題。後來想說在 hbase shell 內使用 scan {COLUMNS => "cf:XX"} 將所有的資料都拿出來,發現也是只有 900 萬筆,所以初步排除是 MapReduce 的問題。
後來比對了新增的 rowkey 及目前 scan 出來的 rowkey,發現 scan 出來的 rowkey 只有到 GbVA000017 而已,後面的 H-Z、a-z 開頭的全部都沒出現。所以小編使用 hbase shell 的 get 指令,確認在 Java API 新增的 rowkey (A-Z、a-z 開頭的) 是否存在於 table 內,發現用 get 可以拿的到資料。討論後用 scan 加 start rowkey 試試,結果如下:
* STARTROW => "GbVA000017":只找到一筆
* STARTROW => "H":可以找到 H 之後的所有資料
看了這結果,真的覺得非常奇怪啊!!!
後來大神 Cowman Chiang 說要不要試著用 split 讓 HBase 重切 region 看看,等於是 rebuild region 的意思,因為 split 會使用字母順序切分成不同的 region,讓 row 重新分散。split 完之後再做一次 count 果然就找到 2000 萬筆資料了啊。
感恩 Cowman Chiang 讚嘆 Cowman Chiang!!!
--- 以下是結論 ---
目前看起來就是 region 發生異常,還不知道是什麼原因會造成這次事件的發生。但如果發現 scan 或 count 的筆數與你預期的內容不一致的話,就 split region 看看吧。
--- 本次追蹤使用工具 ---
* Linux: grep, cat, cut, sort, sed, comm, wc, less, head
* Java: exists, scan, get, put, BufferedReader
* hbase shell: snapshot, split, compact, major_compact, flush, restore_snapshot, scan, get, disable, enable, clone_snapshot, list_snapshots
--- 20180112 後記 ---
後來把 snapshot 還原之後,重新做了一次 rebuild 再做 count,結果還是一樣只有 900 萬筆,然後用 hbase hbck -repair 試著看看是否能把 region 修復 (有 4 個 inconsistencies),修復完後一樣是 900 萬筆。
也有同事說到會不會是資料塞太快的關係,造成 region 無法 split 完整才會發生這個問題。對於這個說法,小編也還在研究看看,有什麼進度會再分享給大家知道。
#hbase #hadoop #mapreduce #hotspotting
sed linux 在 Linux sed 命令 - 菜鸟教程 的相關結果
Linux sed 命令Linux 命令大全Linux sed 命令是利用脚本来处理文本文件。sed 可依照脚本的指令来处理、编辑文本文件。 Sed 主要用来自动编辑一个或多个文件、简化对 ... ... <看更多>
sed linux 在 [Linux] 檔案文件字串處理-sed的用法 - 痞客興的部落格 的相關結果
[Linux] 檔案文件字串處理-sed的用法 ... sed可刪除(delete)、改變(change)、添加(append)、插入(insert)、合、交換檔中的資料行,或讀入其它檔的資料到文>件 ... ... <看更多>
sed linux 在 Linux 指令SED 用法教學、取代範例、詳解 - TerryL 的相關結果
sed 是「stream editor 」的縮寫,顧名思義是進行串流(stream) 的編輯。無論是在編寫shell 的或處理STDIN 的時候,當有需要進行字串取代、複製、刪除 ... ... <看更多>