跳到主要內容

[AWS懶人包] Simple Queue service(SQS)




Simple Queue service(SQS)


在設計系統時, 若不希望元件之間相依程度過高的話, 通常會在元件之間加一層message queue來解偶

在雲上, AWS提供的Simple Queue Service 簡稱SQS, 讓我們可以把雲上各個相依的服務元件解偶, 進而提升整體系統的延展性


Key Feature

Pull Based
不會自動推撥訊息, consumer 需要不斷地去詢問有沒有可執行的任務在佇列中
(2018年六月之後的SQS可以透過事件來驅動Lambda)




訊息大小
目前支援最大256kb

訊息的保存期限
最短1分鐘到最長14天, 訊息一旦過保就會被刪除

訊息的存取時間
預設每則訊息可以被獨佔30秒, 因為當訊息被截取之後, 會變成隱蔽狀態, 可是一旦超過這個存取時間之後, 狀態會恢復, 重新開放給任何其他的consumer去獨佔, 當然我們也可以延長獨佔的時間到最長12小時

存取的範例程式碼
    var params = {
      AttributeNames: ["SentTimestamp"],
      MaxNumberOfMessages: 1,
      MessageAttributeNames: ["All"],
      QueueUrl: queueURL,
      VisibilityTimeout: 2, //訊息的存取時間
      WaitTimeSeconds: 0 //等待回復的時間, 設為0表示Short polling
    };

    sqs.receiveMessage(params, (err,data)=>{
        if(err){
            console.log(err);
        }else
        {
            console.log("Received Data:",data);
        }
    })


任務完成後必須要手動清掉佇列中的訊息, 否則當存取時間超過之後, 訊息會重新開放給其他的consumer, 而產生重複存取的情況

刪除訊息的範例程式碼

    sqs.deleteMessage(deleteParams, function(err, data) {
      if (err) {
        console.log("Delete Error", err);
      } else {
        console.log("Message Deleted", data);
      }
    });

Queue Type

Standard Queue
為預設的選項, 每秒允許幾乎無限制個transaction, 並且保證訊息至少被交付一次, 但不保證順序

FIFO
保證會依照先進先出的順序交付, 但限制於每秒只能有300個transaction


Message Type

JSON
XML
Unformated text

Poll

Short polling
詢問之後會馬上取得結果, 即使queue裡沒東西也會告訴你沒東西, 需要不斷的詢問才能保證取得最新的狀態, 這種方式就像是好像有人一直問你有沒有工作可以做, 有沒有工作可以做, 有沒有工作可以做, ...

Long polling 
詢問之後除非timeout或是queue裡面有訊息, 否則不會立即取得response, 所以相較於前者, 這種方式會比較省錢

我們可以在創建佇列時設定Receive Message Wait Time 來決定使用哪種詢問方式, Long Polling 還是 Shot Polling

若等待時間設定為0就是Shot Polling




當然也可以在詢問的請求內指定等待時間(Receive Message Wait Time)

    var params = {
      AttributeNames: ["SentTimestamp"],
      MaxNumberOfMessages: 1,
      MessageAttributeNames: ["All"],
      QueueUrl: queueURL,
      VisibilityTimeout: 2, //訊息的存取時間
      WaitTimeSeconds: 0 //設為0表示Short Polling
    };

程式中, 當詢問的請求沒有特別指定WaitTimeSeconds時, 則預設會以佇列建立時給定的Receive Message Wait Time當作依據

程式碼


各位有興趣的話可以在Lambda上建一個function然後跑跑看下面的程式碼



https://aws.amazon.com/tw/sqs/faqs/
https://www.whizlabs.com/blog/aws-sqs/
https://aws.amazon.com/tw/blogs/aws/aws-lambda-adds-amazon-simple-queue-service-to-supported-event-sources/

留言

這個網誌中的熱門文章

[解決方法] docker: permission denied

前言 當我們執行docker 指令時若出現以下錯誤訊息 docker: Got permission denied while trying to connect to the Docker daemon socket at unix:///var/run/docker.sock: Post http://%2Fvar%2Frun%2Fdocker.sock/v1.26/containers/create: dial unix /var/run/docker.sock: connect: permission denied. See 'docker run --help'. 表示目前的使用者身分沒有權限去存取docker engine, 因為docker的服務基本上都是以root的身分在執行的, 所以在指令前加sudo就能成功執行指令 但每次實行docker指令(就連docker ps)都還要加sudo實在有點麻煩, 正確的解法是 我們可以把目前使用者加到docker群組裡面, 當docker service 起來時, 會以這個群組的成員來初始化相關服務 sudo groupadd docker sudo usermod -aG docker $USER 需要退出重新登錄後才會生效 Workaround 因為問題是出在權限不足, 如果以上方法都不管用的話, 可以手動修改權限來解決這個問題 sudo chmod 777 /var/run/docker.sock https://docs.docker.com/install/linux/linux-postinstall/

[C#] Visual Studio, 如何在10分鐘內快速更改命名專案名稱

前言: 由於工作需要, 而且懶得再重寫類似的專案, 所以常常將之前寫的專案複製一份加料後, 再重新命名編譯 假設今天我有一個專案HolyUWP, 我想把它重新命名成 BestUWP 時該怎麼做? 以下是幾個簡單的的步驟 使用Visual Studio 2017 備份原來專案 更改Solution名稱 更改Assembly name, Default namespce 更改每支程式碼的Namespace 更改專案資料夾名稱 備份原來專案 由於怕改壞掉, 所以在改之前先備份 更改Solution名稱 更改sln的名稱, 這邊我改成BestUWP.sln 使用Visual Studio打開你的.sln, 右鍵點擊Solution後選擇Rename, 這邊我把它重新命名成BestUWP(跟檔案名稱一致) 必要的話可以順便修改Porject名稱 更改Assembly name, Default namespce 進入 Project > OOXX Properties    修改Assembly Name, Default namesapce 更改每支程式碼的Namespace 基本上隨便挑一支有用到預設Namesapce(HolyUWP)的程式碼來改就好了 重新命名後點擊Apply,  這個動作做完後所有用到舊Namespace的程式碼都會被改成新的 更改專案資料夾名稱 以上動作做完後, 基本上就可以把專案編譯出來測看看了~

[Visual Studio Code] 如何切換背景主題

在我們安裝完畢後,背景主題預設會是黑色 那如果不喜歡黑色 我們可以直接到 File > Preferences > Color Theme下做更換 點開Color Theme 後會發現,Visual Studio Code 內建了許多主題讓我們選擇 現在的Visual Studio Code提供Syntax HighLight的功能,方便我們複製貼上程式碼時能保有顏色 由於我希望複製貼上後的程式碼背景可以是白色的 所以我選擇了 Light(Visual Studio) 這個主題,結果如下