一、背景
内核开发时往往需要做一些内核态函数的监测或者内核状态的监测，就需要用一些调试手段来观测。常用的内核态的观测如kprobe和tracepoint，但是kprobe往往受制于一些系统的限制，很多系统并没有打开kprobe选项，这样我们不能通过kprobe来探测。但是tracepoint一般都是打开的，毕竟系统的很多行为默认都是通过ftrace去抓取，ftrace就是基于系统的预埋的tracepoint点去捞系统信息的，所以肯定得打开才行。
关于tracepoint的抓取方法，我们分为改内核方式和不改内核方式：改内核方式，我们可以注册已有的tracepoint点，也可以注册一些新的自定义的tracepoint点，这部分我们会在第二章里展开；不改内核方式，也就是通过编写一个模块来注册，注册的方式稍微有点复杂，但是仍然可以注册现有的一些tracepoint，但是注册不了新的tracepoint，这部分我们会在第三章里展开。
二、修改内核的方式进行tracepoint点的注册和新加tracepoint点
修改内核的方式使用tracepoint的方式分为好几种，我们先介绍使用现有tracepoint点，进行注册回调。
继而介绍如何新增一个tracepoint点，新增一个tracepoint点大致分为两种方式：
1）使用现有的tracepoint的模块比如sched模块，即跟随现有模块进行使能和关闭
2）新增一个tracepoint的模块
tracepoint本身属于一个内核的监测点，我们可以借助这个监测点注册自己的回调来做一些监控的事情。除此以外，内核的大部分tracepoint点，都有默认的ftrace打印。对于我们新增的tracepoint点，我们可以增加打印也可以不增加打印，这在这一章里会介绍。
这一章的最后一节会介绍，如何在内核里基于tracepoint点注册自己的回调函数，模块注册tracepoint回调函数见第三章。
2.1 使用现有的tracepoint模块，新增一个tracepoint点
这一节会先介绍新增一个tracepoint点并附着ftrace打印，意思就是开启所属的tracepoint的模块时，新增的这个tracepoint点的附着的打印也会跟随ftrace的该模块的其他打印一同输出到ftrace里。
然后，再介绍如何不默认附着打印，因为不默认附着打印，对系统的性能损耗是最低的，因为现有的模块有时候会进行调试而打开ftrace，新增的这一条tracepoint也会增加一些性能的损耗，有时候我们已经新增的tracepoint点有了回调处理，其实并不需要再有打印输出，当然，按照需求，我们可以灵活的选择。
2.1.1 现有tracepoint模块新增一个tracepoint点并附着ftrace打印
内核里其实已经有一个现成的新增一个tracepoint的模板供参考，在include/trace/events/sched.h里：
上图中sched_process_template是新增的tracepoint的名字，在代码里要添加的方式如下：
下图就是一个添加例子，比如我们要在kernel/sched/core.c里，在trace_sched_switch的下面加上这个sched_process_template的tracepoint，就可以如下编写
注意，如果要增加tracepoint的.c的文件上面没有引用过tracepoint的相关头文件，就需要学习core.c的添加方法，进行添加相关头文件：
这么添加的话，比如添加到了sched的tracepoint模块里，如果按照如下进行sched的trace的enable的话，新注册的这个tracepoint的日志是会跟随sched其他tracepoint日志一起输出的。
2.1.1.1 一个抓trace的脚本，使能sched的trace，新增到sched的tracepoint附着日志也会跟随输出
下面的是使能trace的方法的例子，下面根据输入的参数作为睡眠的秒数，如果没有输入参数，则睡眠10秒，使能了sched和irq的trace，也是两个常用的trace，其他下面脚本里还有一些注释掉的内容也供参考，经常也会用到
#!/bin/bashif [ -n "$1" ]; thensleeptime=$1
elseecho "no input sleep time"sleeptime=10
fiecho 1 > /sys/kernel/tracing/events/sched/enable
#echo 1 > /sys/kernel/tracing/events/sched/sched_wakeup_new/enable
#echo 1 > /sys/kernel/tracing/events/sched/sched_process_exec/enable
#echo 1 > /sys/kernel/tracing/events/sched/sched_process_fork/enableecho 1 > /sys/kernel/tracing/events/irq/enable
#echo 1 > /sys/kernel/tracing/events/block/enable
#echo 1 > /sys/kernel/tracing/events/writeback/folio_wait_writeback/enableecho 80960 > /sys/kernel/tracing/buffer_size_kb
echo 4096 > /sys/kernel/tracing/buffer_size_kb
echo 1 > /sys/kernel/tracing/options/record-tgid
echo 1280 > /sys/kernel/tracing/saved_cmdlines_sizeecho > /sys/kernel/tracing/traceecho 1 > /sys/kernel/tracing/tracing_onsleep $sleeptime#echo 1 > /sys/kernel/tracing/snapshotecho 0 > /sys/kernel/tracing/tracing_on#cat /sys/kernel/tracing/snapshot > record/snapshot.txtcat /sys/kernel/tracing/trace > trace.txt
2.1.2 现有tracepoint模块新增一个tracepoint点并不附着ftrace打印
不附着打印一般用于新增注册的tracepoint点有自己定义的回调函数，并且考虑到性能不想附着打印影响开trace时的系统效率。
还是用系统已有的sched_process_template作为例子，如下，要用DECLARE_TRACE代替DECLARE_EVENT_CLASS，然后把TP_STRUCT__entry及TP_fast_assign及TP_printk三段删掉即可
2.2 新增一个tracepoint模块，并增加一个tracepoint点
新增一个tracepoint模块，我们可以新增一个include/trace/events/下的一个头文件，头文件如下定义，我们依然还是用现有的sched_process_template来举例：
#undef TRACE_SYSTEM
#define TRACE_SYSTEM xxx#if !defined(_TRACE_XXX_H) || defined(TRACE_HEADER_MULTI_READ)
#define _TRACE_XXX_H#include <linux/tracepoint.h>DECLARE_EVENT_CLASS(sched_process_template,TP_PROTO(struct task_struct *p),TP_ARGS(p),TP_STRUCT__entry(__array( char, comm, TASK_COMM_LEN )__field( pid_t, pid )__field( int, prio )),TP_fast_assign(memcpy(__entry->comm, p->comm, TASK_COMM_LEN);__entry->pid = p->pid;__entry->prio = p->prio; /* XXX SCHED_DEADLINE */),TP_printk("comm=%s pid=%d prio=%d",__entry->comm, __entry->pid, __entry->prio)
);#endif /* _TRACE_XXX_H *//* This part must be outside protection */
#include <trace/define_trace.h>
注意，如果新增的tracepoint点在头文件里的函数里用到，则头文件里也得加上相关的定义的头文件，比如新增了一个模块的trace头文件xx.h，在某个.h里函数里有用到，则也在这个.h函数里加上：
#include <trace/events/xx.h>
2.3 注册tracepoint点的自定义回调函数（非内核模块）
分为注册已有的tracepoint点的自定义回调函数和注册新增的tracepoint点的自定义回调函数
其实这两种在注册tracepoint点的自定义回调函数这方便是一样的：
还是以sched_process_template的注册自定义回调为例子
先定义自己的回调函数（注意，tracepoint回调函数的得新增一个void*变量作为第一个参数）：
增加这个void*变量通俗的理解就是C里仿C++的this指针的意思
static void cb_sched_process_template(void *i_data, struct task_struct *i_next)
{// to do
}注册这个自定义回调（注意，register_trace_sched_process_template函数是默认跟着tracepoint函数的定义而自动生成的函数）：
register_trace_sched_process_template(cb_sched_process_template, NULL);不用时进行回调的unregister：
unregister_trace_sched_process_template(cb_sched_process_template, NULL);
tracepoint_synchronize_unregister();注意上面的tracepoint_synchronize_unregister函数，用于同步等之前的解注册自定义回调函数的逻辑完成，这个在SMP环境下，比如有人还在正在使用它，而不去等这个解注册完成，直接执行后面的清除逻辑，就会发生一种情况，就是在后面的清除逻辑做了一些以后，另外一个核上跑到回调函数里面，又写了一些数据，导致数据上不一致，所以，就需要这个同步等tracepoint都unregister这个动作。
三、使用内核模块进行内核已有tracepoint点的注册
先展示一下，使用第二章里的方法进行模块里的注册遇到的问题：
3.1 模块里不能使用register_trace_xx进行内核里tracepoint点的注册
下面的截图是想在模块里直接使用register_trace_sched_switch进行sched_switch的tracepoint点的注册：
但是编译时遇到错误：
3.2 使用tracepoint_probe_register和tracepoint_probe_unregister进行注册的方式
在模块里不能直接使用register_trace_xx和unregister_trace_xx这个系列的函数，但是可以使用tracepoint_probe_register和tracepoint_probe_unregister这两个函数去根据函数地址直接去注册tracepoint，那么，函数地址怎么来，可以通过for_each_kernel_tracepoint这个内核export的symbol去遍历找指定名字的tracepoint函数，如下查找方式：
上图中红色框出来的函数的定义，这边是通过一个宏来构造，为了可以用一个宏来定义多个tracepoint的查找函数
这么做是因为for_each_kernel_tracepoint这个export的symbol的第一个函数是一个而函数指针：
而传入for_each_kernel_tracepoint函数的第二个参数priv会原封不动的作为入参塞给传入进来的第一个函数指针的函数，所以就有下面的函数名的检查逻辑：
因为tracepoint的结构体里的name也就是tp->name是去掉trace_这个字符串头的后面的部分，比如sched_switch。
3.3 完整的实现代码例子和效果展示
完整的代码如下：
#include <linux/module.h>
#include <linux/capability.h>
#include <linux/sched.h>
#include <linux/uaccess.h>
#include <linux/proc_fs.h>
#include <linux/ctype.h>
#include <linux/seq_file.h>
#include <linux/poll.h>
#include <linux/types.h>
#include <linux/ioctl.h>
#include <linux/errno.h>
#include <linux/stddef.h>
#include <linux/lockdep.h>
#include <linux/kthread.h>
#include <linux/sched.h>
#include <linux/delay.h>
#include <linux/wait.h>
#include <linux/init.h>
#include <asm/atomic.h>
#include <trace/events/workqueue.h>
#include <linux/sched/clock.h>
#include <linux/string.h>
#include <linux/mm.h>
#include <linux/interrupt.h>
#include <linux/tracepoint.h>
#include <trace/events/sched.h>
#include <trace/events/irq.h>MODULE_LICENSE("GPL");
MODULE_AUTHOR("zhaoxin");
MODULE_DESCRIPTION("module for test tracepoint.");
MODULE_VERSION("1.0");bool blog = false;static void cb_sched_switch(void *i_data, bool i_preempt,struct task_struct *i_prev,struct task_struct *i_next,unsigned int i_prev_state)
{if (!blog) {blog = true;printk("in cb_sched_switch here!\n");}
}struct kern_tracepoint {void *callback;struct tracepoint *ptr;bool bregister;
};static void clear_kern_tracepoint(struct kern_tracepoint *tp)
{if (tp->bregister) {tracepoint_probe_unregister(tp->ptr, tp->callback, NULL);}
}#define INIT_KERN_TRACEPOINT(tracepoint_name) \static struct kern_tracepoint mykern_##tracepoint_name = {.callback = NULL, .ptr = NULL, .bregister = false};#define TRACEPOINT_CHECK_AND_SET(tracepoint_name) \static void tracepoint_name##_tracepoint_check_and_set(struct tracepoint *tp, void *priv) \{ \if (!strcmp(#tracepoint_name, tp->name)) \{ \((struct kern_tracepoint *)priv)->ptr = tp; \return; \} \}INIT_KERN_TRACEPOINT(sched_switch)
TRACEPOINT_CHECK_AND_SET(sched_switch)static int __init osmon_main_init(void)
{ mykern_sched_switch.callback = cb_sched_switch;for_each_kernel_tracepoint(sched_switch_tracepoint_check_and_set, &mykern_sched_switch);if (!mykern_sched_switch.ptr) {printk("sched_switch register failed!\n");return 0;}else {printk("sched_switch register succeeded!\n");}tracepoint_probe_register(mykern_sched_switch.ptr, mykern_sched_switch.callback, NULL);mykern_sched_switch.bregister = 1;return 0;
}static int __init osmon_sched_module_init(void) {unsigned long flags;unsigned long start_time, end_time;printk(KERN_INFO "osmon_sched_module: init start.\n");osmon_main_init();printk(KERN_INFO "osmon_sched_module: init done.\n");return 0;
}static void __exit osmon_sched_module_exit(void) {clear_kern_tracepoint(&mykern_sched_switch);tracepoint_synchronize_unregister();printk(KERN_INFO "osmon_sched_module: Module unloaded.\n");
}module_init(osmon_sched_module_init);
module_exit(osmon_sched_module_exit);Makefile：
KERNEL_DIR:=/lib/modules/$(shell uname -r)/build.PHONY: modules modules_cleanmodules:${MAKE} -C $(KERNEL_DIR) M=$(CURDIR) modulesmodules_clean:${MAKE} -C $(KERNEL_DIR) M=$(CURDIR) modules_clean可以看到是能跑到我注册的tracepoint回调函数的：
