Kỹ sư suy luận AI QVAC tại Tether

Tổng quan vị trí

Kỹ sư suy luận QVAC làm việc trên môi trường chạy C++ cho mô hình AI cục bộ, không phụ thuộc hạ tầng đám mây. Vai trò cải thiện tốc độ tải mô hình, sử dụng bộ nhớ và thực thi trên nhiều thiết bị biên. Tin liệt kê Hà Nội, Việt Nam.

Trách nhiệm

• Triển khai mô hình học máy lên thiết bị biên bằng llama.cpp, ggml và khung GPU phù hợp.
• Cải thiện tốc độ suy luận, sử dụng bộ nhớ và độ ổn định môi trường chạy trên nhiều phần cứng.
• Phối hợp với nhà nghiên cứu chuyển mô hình thành bản triển khai sản phẩm.
• Tích hợp tính năng AI chạy trên thiết bị vào sản phẩm hiện có.

Yêu cầu

• Lập trình C++ vững và có kinh nghiệm thực tế với bộ suy luận llama.cpp hoặc ggml.
• Từng dùng khung GPU CUDA, Vulkan, Metal hoặc OpenCL.
• Hiểu mô hình học sâu gồm transformer, LLM và mô hình khuếch tán.
• Có bằng khoa học máy tính, AI hay học máy và bằng chứng nghiên cứu, phát triển AI.
• Tinh chỉnh mô hình, suy luận trong sản phẩm, hệ thống phân tán hoặc JavaScript là kinh nghiệm cộng thêm.

Công nghệ trong công việc

• JavaScript: Model fine-tuning, production inference, distributed systems or JavaScript are listed as bonus .
• C++: The QVAC inference engineer works on the C++ runtime that runs local AI models without relying on cloud .
• C: The QVAC inference engineer works on the C++ runtime that runs local AI models without relying on cloud .
• R: • A degree in Computer Science, AI, Machine Learning, or a related field, complemented by a solid track record in AI .
• LLM: • You know how to train/fine-tune a .
• CAN: You will define and evolve the core abstractions that inference features depend on, so new capabilities can be added without sacrificing performance or .
• Vulkan: Experience with CUDA, Vulkan, Metal or OpenCL GPU .
• CUDA: Experience with CUDA, Vulkan, Metal or OpenCL GPU .

Hướng dẫn đánh giá mức độ phù hợp (tiếng Anh)

Phân tích dựa trên yêu cầu và trách nhiệm trong tin tuyển dụng của nhà tuyển dụng.

Understanding the scope. This AI Inference Engineer QVAC (100% remote Worldwide) position at Tether is best assessed through the work described in the employer’s posting, rather than the title alone. The available role overview says: “The QVAC inference engineer works on the C++ runtime that runs local AI models without relying on cloud infrastructure. The role improves model loading, memory use and execution across edge hardware. The posting lists…” Read that statement together with the responsibilities below to understand the likely balance between delivery, coordination and technical decision-making. The role belongs to the AI and data area, but that label is only a guide to the work; the employer’s own requirements remain decisive. Before applying, check the original listing for reporting lines, product or team assignment, employment terms and any details that may have changed since this copy was checked. Where this page says a fact is not specified, treat it as an open question rather than an implied promise.

What the responsibilities signal. The posting specifically names “Deploy machine-learning models to edge devices with llama.cpp, ggml and relevant GPU frameworks.”; “Improve inference speed, memory use and runtime stability across hardware platforms.”; “Work with researchers to turn models into production implementations.”. For each duty, identify a project where you performed comparable work and be ready to describe the context, your own contribution, constraints, decisions, and measurable result. Explain how you moved from the initial need to implementation, review, release or operational follow-through, where those stages apply. If the work involved other teams or users, distinguish your decisions from the group’s contribution. Avoid presenting a technology keyword as proof by itself: connect it to the problem you solved, the scale or complexity involved, and what changed after your work. The source may contain additional duties; review it directly before preparing your application.

How to read the requirements. The listed qualifications include “Strong C++ programming and practical llama.cpp or ggml inference-engine experience.”; “Experience with CUDA, Vulkan, Metal or OpenCL GPU frameworks.”; “Understanding of deep-learning models including transformers, LLMs and diffusion systems.”. Mark each requirement as demonstrated, adjacent experience or a genuine gap, then use a concise example for the first two categories. A strong example explains what you personally owned, how you made trade-offs, how you validated the result and what you learned. If the posting specifies years of experience, language ability, certifications, location or eligibility, address those facts plainly in your CV or application rather than relying on the employer to infer them. Do not claim a qualification from exposure alone. For a requirement you do not meet, describe relevant transferable experience accurately and ask the recruiter whether it is mandatory.

Technology and working evidence. The technology terms associated with this listing are JavaScript, C++. Treat this as a set of posting-derived signals, not a guarantee that every tool is used daily or that the list is complete. For each term relevant to your experience, prepare one concrete example: the system or workflow, the part you owned, the alternatives considered, and how you tested reliability, security, performance or usability as appropriate. If you have not used a named tool, explain the closest related system you have worked with and how you would ramp up; do not relabel that experience as direct production use. If the source describes technologies beyond this list.

Về Tether

Tether phát triển sản phẩm token kỹ thuật số, gồm USDT, cùng các dự án truyền thông ngang hàng và AI. Nhà tuyển dụng mô tả đội ngũ làm việc từ xa tại nhiều quốc gia.

Khám phá việc làm theo danh mục

Việc làm liên quan

• Kỹ sư Nghiên cứu AI, Kernel và Inference Optimization tại Tether — Tether
• Kỹ sư hạ tầng tác nhân AI tại Tether — Tether
• Kỹ sư hạ tầng tác nhân AI tại Tether — Tether
• Kỹ sư hạ tầng tác nhân AI tại Tether — Tether
• Kỹ sư nghiên cứu AI tiền huấn luyện LLM và đa phương thức tại Tether — Tether
• Kỹ sư nghiên cứu AI hậu huấn luyện tác nhân tại Tether — Tether