2021年1月19日 星期二

EXCEL VBA大數據分析視覺化程式設計

用EXCEL VBA做大數據分析視覺化程式設計教學心得分享

本學期應邀回母校台師大開課課程主要是:
用EXCEL VBA做大數據分析視覺化程式設計

另一個母校,東吳大學也邀請我開課,但限於自己的時間無法排出適合的時間,
於是系主任便推薦我開設遠距課程於是,
便有了可以在台師大上課,並將上課錄影除了提供上課學生複習,
也可以將後製後的影片,提供東吳的遠距課程的想法,
這樣我只要認真地把一次課程作法,就可以讓兩邊的學生都學習的好辦法。

於是開學後,台師大受限電腦教室,選修人數只有50人,加上加選5人,
有55位學生,幾乎是秒殺,至於東吳遠距課程,沒有這樣的限制,
所以選課人數近百人,有95位選修。

一、課程大綱:

期中前,主要從EXCEL高階函數巨集錄製VBA程式設計,
資料來源為政府開放資料,配合樞紐分析表。

期中後,網路爬蟲+樞紐分析到視覺化圖報表,用EXCEL內建功能與錄製巨集寫爬蟲,
無法抓取資料則用IE物件,將IE瀏覽器嵌入EXCEL VBA程式中,只要能連結的網頁,單可以下載裡面的資料。



課程進行中提供雲端講義,裡面有說明、畫面與老師自己寫的程式碼,並隨課全程錄影,
後製後上傳YOUTUBE,建立播放清單,直接件給學生複習與學習。
建立一個GOOGLE論壇,只有學生可以加入,
課後會將上課的YOUTUBE影片建立播放清單,並貼到論壇,
好處就是會自動轉信給學生,這樣我就不用一個一個的郵寄了,
用了超過十年覺得沒什麼問題,只是雖是論壇,
但討論的介面做的很不好,最好用的還是分享上課影片清單。



二、修課人數/學院分布




三、期中專題作業






四、期末專題作業












五、本學期授課心得:

1.兩學分真的有點趕,因此輔以影音錄製與雲端講義,對認真學習學生幫助很大。
2.期中專題有範圍,但許多學生都能加入自己的需求和想法,加上EXCEL容易上手,雖說需要撰寫VBA程式,但因為懂得錄製巨集與修改的方式,都能完成理想專題。
3.期末專題為難度很高的網路爬蟲+製作圖表,但結果超過預期的好,可見學生接受度很好,以學生回饋意見可知,上課錄影可重複學習備查,與雲端講義助益很大。
4.遠距學習(東吳)結果因為有影音與雲端輔助,成果不遜於實體上課。


非資訊背景教程式設計

非資訊卻講程式設計二十一年(89年巨匠教VB)
比較沒包袱,能從非資訊角度看學習與應用
重視實作,很多人看的懂書上寫的但寫不出程式
程式寫作要會寫,還要熟練,更需要完全正確(99分程式還是無法執行)
教學的核心都在如何幫助學生學會寫程式。
從EXCEL函數開始,再學習錄製巨集,再慢慢進入VBA程式設計的世界

如何幫學生寫出又快會好又正確程式

1.所有程式都是自己預先多次撰寫,用自己的寫作風格撰寫,不要求學生有標準答案,可以用自己的方式與邏輯寫程式。
2.提供雲端即時講義,取名雲端白板,有解答程式畫面結果與文字敘述。
3.隨課錄影,並課後上傳YOUTUBE播放清單用用GOOGLE論壇分享。
4.期中報告以開放資料為資料來源,用EXCEL樞紐分析圖表、函數、巨集與VBA完成專題。
5.期末報告以網路爬蟲取得資料(GET與POST),用EXCEL製作圖表與VBA完成專題。

Pyhton V.S. VBA

自己也教Pyhton發現還是比VBA來的困難
1.安裝環境
2.有EXCEL可以存資料,甚至當資料庫
3.有錄製巨集可以產生不會寫的程式
4.樞紐分析 vs Pandas
5.圖表 vs Matplotlib
入門的學生與非資訊相關科系,建議可以先從學習VBA設計下手

第14次上課教學影片分享:

(期末專題作業說明&全省氣溫改為跨工作表與物件的使用&跨工作表說明與用IE物件)


教學論壇:


EXCEL VBA進階班的課程規劃

主要是延伸入門課,延伸資料庫、多工作表、工作簿、網路爬蟲、視覺化報表等應用並與Python程式協同應用
單元01_資料拆解相關(VBA)
單元02_輸入自動化與表單設計
單元03_用ADO匯入與匯出資料庫
單元04_大量工作表合併與分割
單元05_資料查詢(篩選與分割工作表)
單元06_下載網路資料(YAHOO股市)
單元07_活頁簿與檔案處理(工作表分割與合併活頁簿)
單元08_視覺化報表與快速匯入圖片

其他相關學習:
    函數東吳進修推廣部, EXCEL, EXCEL VBA 函數,程式設計,線上教學

    2020年5月22日 星期五

    開課訊息:東吳推廣部 從EXCEL VBA到Python開發

    開課訊息:東吳推廣部 從EXCEL VBA到Python開發

    上課日期
    2020-06-29 時數 32節

    上課內容:
    因應大數據分析、物聯網與AI智慧辦公室的需求,能更容易的學會網路爬蟲、機器學習、物聯網、影像辨識、自動圖像報表等需求,其中以EXCEL VBA與Python程式開發最為熱門,因此將VBA的自動化延伸到PYTHON設計,讓學員能夠比較兩個工具的長處,並能相互協同應用。

    教學內容
    單元01_建置Python開發環境與程式測試
    單元02_基本語法與結構控制件
    單元03_迴圈資料結構與自訂函數
    單元04_串列、字典與檔案與資料庫處理
    單元05-1_開放資料處理CSV和JSON資料處理(停車與PM2.5)
    單元05-2_開放資料處理練習題_新北市開放資料JSON
    單元05-3_GOOGLE雲端當CSV來源與CSV處理
    單元05-4_網頁資料擷取基礎與外匯
    單元05-5_網頁資料擷取台彩與股市資料
    單元05-6_擷取網頁上櫃股票行情
    單元06_使用Pandas與處理_Excel_試算表
    單元07_VBA與Phython連結MYSQL資料庫
    單元08_視覺化報表使用圖表繪製Matplotlib
    備註:本課程上課即時錄製教學,並於課後提供學員線上數位學習。

    連結:
    https://www.ext.scu.edu.tw/courses_search.php?key=%E5%90%B3%E6%B8%85%E8%BC%9D





    吳老師  109/5/22

    函數東吳進修推廣部, EXCEL, EXCEL VBA 函數,程式設計,PYTHON,大數據分析,網路爬蟲,

    用Do While迴圈尋找不定數量結果以範例字串切割為例

    用Do While迴圈尋找不定數量結果以範例字串切割為例

    練習檔 [下載]
    這個範例是學員工作上的問題,
    每天都需要將儲存格中的超連結取出到B欄中,
    若儲存格中只有一個超連結還好解決,
    可以用Find函數找中括弧位置,再用Mid函數切割,
    剛好這個範例裡面不只一個超連結,
    可能有兩個、三個甚至更多,
    也就是數量不定,如果要用For迴圈,也要知道數量範圍,
    所以只能用 Do While 迴圈了,
    從第一個字找起,之後再從找到的位置加一再找了,該如何做。
    預覽影片:

    一、函數

    =FIND(C$1,A2)

    =FIND(D$1,A2)

    =MID(A2,C2+1,D2-C2-1)


    如果用VBA撰寫的程式

    一、階段一,先撰寫只取一個超連結

    外面的For迴圈是跑每一列,用 Instr函數找"【<"和">】",

    分別放在將找到位置的值放在 a和b 中,

    如果a或b為0,表示找不到。


    Sub 字串切割()
        '1.迴圈範圍
        For i = 2 To Range("A2").End(xlDown).Row
            '2.取得頭尾位置與切割字串
            a = VBA.InStr(Cells(i, "A"), "【<")
            b = VBA.InStr(Cells(i, "A"), ">】")
            If a <> 0 Then
                '5.輸出結果
                Cells(i, "B") = Mid(Cells(i, "A"), a + 1, b - a)
            End If
        Next
    End Sub

    如果多個超連結,可以先多產生 a1和b1變數,預設值為 1,

    即從頭找起,找到之後再把  a1和b1 加1之後繼續找,

    直到找不到為止,Do While 後面就是邏輯,為 True 就繼續找,

    反之就離開迴圈了。


    Sub 字串切割_所有超連結()
        '1.迴圈範圍
        For i = 2 To Range("A2").End(xlDown).Row
            '兩個位置初始值,從1開始找
            a1 = 1
            b1= 1
            '2.取得頭尾位置與切割字串
            '當找到關鍵字就執行以下程序
            Do While InStr(a1, Cells(i, "A"), "【<") <> 0
                a = InStr(a1, Cells(i, "A"), "【<")
                b = InStr(b1, Cells(i, "A"),  ">】")
                S = S & Mid(Cells(i, "A"), a + 1, b - a) & Chr(10)
                a1 = a + 1
                b1 = b + 1
            Loop
            '輸出到B欄
            Cells(i, "B") = S
            '清空變數資料
            S = ""
        Next
    End Sub

    以下是清除資料的程式碼


    Public Sub 清除()
        Range("B2:B" & Range("B2").End(xlDown).Row).ClearContents
    End Sub

    以上範例主要學會如何用 VBA的 Instr與Mid函數取出要的資料,

    如果範圍不定,一定要懂得使用 Do While迴圈了。


    教學影音(完整版在論壇):
    <iframe width="560" height="315" src="https://www.youtube.com/embed/Prxi3BpBCMk" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>

    教學影音完整版在論壇:
    https://groups.google.com/forum/#!forum/scu_excel_vba2_107

    EXCEL VBA進階班的課程規劃

    主要是延伸入門課,延伸資料庫、多工作表、工作簿、網路爬蟲、視覺化報表等應用並與Python程式協同應用
    單元01_資料拆解相關(VBA)
    單元02_輸入自動化與表單設計
    單元03_用ADO匯入與匯出資料庫
    單元04_大量工作表合併與分割
    單元05_資料查詢(篩選與分割工作表)
    單元06_下載網路資料(YAHOO股市)
    單元07_活頁簿與檔案處理(工作表分割與合併活頁簿)
    單元08_視覺化報表與快速匯入圖片

    其他相關學習:
      函數東吳進修推廣部, EXCEL, EXCEL VBA 函數,程式設計,線上教學